Τον τέταρτο αιώνα, ο Άγιος Αμβρόσιος, Επίσκοπος Μεδιολάνων, εισήγαγε το αντιφωνικό τραγούδι, όπου η χορωδία ψάλλει εναλλακτικούς στίχους ψαλμού ή ύμνου. Τον πέμπτο αιώνα, ο Άγιος Γρηγόριος ο Μέγας, Πάπας της Ρώμης, τυποποίησε τη λειτουργία και καθιέρωσε ένα σύστημα οκτώ μουσικών τρόπων. Αυτό το σύστημα, γνωστό ως Γρηγοριανό άσμα, έγινε η κύρια μορφή μουσικής στην Καθολική Εκκλησία για αιώνες.
Κατά τον Μεσαίωνα, άρχισαν να αναπτύσσονται διάφορες άλλες μορφές εκκλησιαστικής μουσικής, όπως τα λειτουργικά δράματα, η πολυφωνία και η οργανική μουσική. Η πολυφωνία, όπου δύο ή περισσότερες μουσικές γραμμές τραγουδιούνται ταυτόχρονα, έγινε σημαντική τον 12ο αιώνα.
Τον 16ο αιώνα, ο Μαρτίνος Λούθηρος ξεκίνησε την Προτεσταντική Μεταρρύθμιση. Αυτό οδήγησε στην ανάπτυξη διαφορετικών στυλ εκκλησιαστικής μουσικής, όπως τα λουθηρανικά χορικά και το αγγλικανικό άσμα. Αυτά τα είδη παραμένουν σημαντικά μέρη της χριστιανικής λατρείας σήμερα.
Τον 19ο και τον 20ο αιώνα ανανεώθηκε το ενδιαφέρον για τη μελέτη και την απόδοση της πρώιμης εκκλησιαστικής μουσικής, όπως το Γρηγοριανό άσμα και τα έργα της Παλαιστρίνας. Υπήρξε επίσης μια έκρηξη νέας ιερής μουσικής που συντέθηκε σε ποικίλα στυλ.