Cherubini Firenzében született Maria Luigi Carlo Zenobio Salvatore Cherubini néven. Első zenei leckéit hatéves korában csembalista apjától, Bartolomeótól kapta. Ifjúkorában komponált egyik kantátáját Firenzében mutatták be I. Lipót, a leendő császár tiszteletére. Lipót értékelte az ifjú tehetségét, és Giuseppe Sartihoz, a neves operaszerzőhöz küldte zenei tanulmányainak folytatására. A Sartinál töltött időszak rendkívül hasznos volt számára, komoly zeneelméleti képzést kapott, itt sajátította el a polifonikus stílus technikáját és a kontrapunktikus szerkesztés alapelveit. Első bemutatott operája, a Quinto Fabio ugyan nem aratott átütő sikert, de következő operáit rövid időn belül sorban mutatták be. 1785-ben Londonba költözött, és a King’s Theatre számára írt egy operát (La finta principessa – Az álhercegnő). Udvari komponistává nevezték ki. Az 1786-os Giulio Sabinót kifejezett elismeréssel fogadták. Híre elért Párizsba is, ahol a színház nyári szünetében Marie-Antoinette is fogadta.

A kedvező fogadtatás hatására 1788-ban letelepedett Párizsban, első itt bemutatott operája a Démophon volt. Egy párizsi olasz operatársulatot (Théâtre de la Foire S. Germain) vezényelt, ennek megszűnése után Normandiába vonult vissza, ahol az Élisa című operáján dolgozott. Ezzel a művével szakított az olaszos operastílussal, lényegesen nagyobb hangsúlyt adott a cselekmény és a zene drámaiságának. Ez a stílus erősen hatott Beethoven egyetlen operájára, a Fidelióra. Párizsban állást kapott a Nemzeti Zeneintézetben, majd az ebből alakult Conservatoire-ban. Ezután írt operái közül kiemelkedik a Médée (Médeia). Híre bejárta Európát, és mivel Napóleonnal is összezördült, 1806-ban Bécsbe utazott két korábbi operájának (Lodoiska, Faniska) ottani bemutatójára. A bemutatkozás sikeres volt, Beethoven és Haydn is lelkesedett értük. Otthon rövidebb hallgatás következett, Chimay herceg vendégeként kártyafestéssel töltötte az idejét. A herceg végül rábeszélte egy mise megírására (F–dúr, „Chimay” mise). Több vallási témájú művet is írt a következő években, amik közül az 1816-ban bemutatott c–moll requiem ismét elbűvölte Beethovent: jobbnak tartotta Mozart művénél is. 1816-ban a Conservatoire tanára, majd öt év múlva igazgatója lett. Munkája révén a szebb időket megért Conservatoire ismét nagy jelentőségű intézménnyé vált. Tanítványai között a legnevesebbek Halévy és Auber.

Cherubini hatalmas életművet hagyott maga után. Zeneszerzői nagyságát legjobban Beethoven elismerő véleménye bizonyítja. Ennek ellenére műveit sokáig szinte elfeledték, az operaházak csak a Médeiát tűzték időnként színre, ám napjainkban egy lassú újjászületés figyelhető meg. Játsszák egyetlen szimfóniáját, nyitányait, több vallásos szerzeményét, más operákat is, és lemezfelvételek sora jelenik meg műveiből.