През четвърти век св. Амвросий, епископ на Милано, въвежда антифонно пеене, при което хорът пее редуващи се стихове на псалм или химн. През пети век св. Григорий Велики, папа на Рим, стандартизира литургията и създава система от осем музикални стила. Тази система, известна като григорианско песнопение, се превърна в основна форма на музика в католическата църква в продължение на векове.
През Средновековието започват да се развиват различни други форми на църковна музика, като литургични драми, полифония и органна музика. Полифонията, при която две или повече музикални линии се пеят едновременно, става важна през 12 век.
През 16 век Мартин Лутер поставя началото на протестантската реформация. Това доведе до развитието на различни стилове църковна музика, като лутерански хорали и англикански песнопения. Тези жанрове остават важна част от християнското богослужение днес.
През 19-ти и 20-ти век се наблюдава подновен интерес към изучаването и изпълнението на ранна църковна музика, като григорианския хорт и произведенията на Палестрина. Има също така изливане на нова сакрална музика, композирана в различни стилове.