Ce mot d’origine grecque a été formé dès le Moyen-Âge par allusion à la répétition, au cours de la messe, des termes Kyrie eleison " Seigneur, ayez pitié de nous ". Cette répétition du mot kyrie a donné naissance au mot kyrielle pour désigner une " longue suite monotone et ininterrompue ". Sur ce modèle on a aussi forgé en vieux français le mot miserele, qui rappelle la longue succession des miserere nobis après chaque nom de saint dans les litanies.

En latin classique, l’équivalent de kyrielle était cantilena " air rebattu, refrain ".