Narodil sa v rodine maliara François-Louis Gounoda. Jeho matka, vynikajúca klaviristka, mu dala základné klavírne vzdelanie. Chodil najskôr do lýcea Saint-Louis, potom študoval harmóniu u Antoina Reichu a neskôr na Parížskom konzervatóriu uJacqua Fromentala Halévyho a kompozíciu u Jean-Francoisa Lesueura. V roku1839 vyhral so svojou kantátouFernand Rímsku cenu. Pobudol aj vo Villa Medicis, kde študoval kresťanskú hudbu.
V roku1858 sa konala v Théatre Lyrique premiéra jeho najslávnejšej operyFaust (skomponovanej na motívy GoethehoFausta). Opera získala veľký úspech - prvý rok mala 70 repríz. V roku1867 skomponoval známu operuRómeo a Júlia (Roméo et Juliette) podľa Shakespearovej rovnomennej hry. V roku1869 napísal skladbuMarche Pontificale, ktorá sa v roku1949 stala hymnouVatikánu.
Menej známe sú jeho ostatné diela : dve symfónie aMalá symfónia (Petite symphonie)pre deväť dychových nástrojov (1885), z duchovnej hudbyAve Maria. Zhudobnil mnoho básní Alfreda de Musseta aVictora Huga, napríkladVenise (Benátky),O ma belle rebelle (Ach, moja krásna rebelka) aD´un coeur qui aime (Zo srdca, ktoré miluje).