IfølgeLiber Pontificalis var Leo født iToscana. I431 var handiakon i Rom og var tilstrækkelig betydningsfuld til, atKyril af Alexandria henvendte sig til ham for at få Rom til at forhindreJuvenal af Jerusalems krav om kirkeligt overherredømme overPalæstina. Brevet fra Kyril kan dog også være adresseret tilpave Celestin 1. På samme tid dedikeredeJohannes Cassianus sin afhandling modNestorius til Leo − den var skrevet på hans opfordring. Det tydeligste tegn på tillid til Leo ses af, at kejseren valgte ham til at afgøre striden mellem de to højeste embedsmænd iGallien.
I de følgende år slog Leo ned på en rækkekætterske bevægelser, der havde mere eller mindre medvind. Det drejede sig blandt andet ompelagianisme,manikæismen ogpriscillianismen, som han på forskellig vis bekæmpede. Han søgte også at fåkopterne til at indordne sig under romersk-katolsk praksis, lige som han søgte at sikre Roms indflydelse påIllyrien, hvor kirken vaklede mellem Rom ogpatriarken i Konstantinopel. I451 opnåede han en stor sejr vedkoncilet i Chalkedon, hvor han fik det til at anerkende paven i Rom som den retmæssige efterfølger tilapostlen Peter.
Også i Gallien var der problemer med, hvem der bestemte. Her blev Leo involveret direkte i en strid med ærkebiskopHilarius fra Arles. Leo satte Hilarius grundigt på plads, så denne fik indskrænket sin magt. Leo følte sig trængt, så han appellerede til den verdslige magt: kejserValentinian III. Denne udstedte et dekret6. juni445, hvori han anerkender forrangen for Roms biskop som efterfølger af Peter, dennes overhøjhed i Rom ogden nikæno-konstantinopolitanske trosbekendelse. Modstand opfattedes juridisk som forræderi. Hilarius bøjede sig herefter.
I øst søgte Leo at øge indflydelsen i en strid mellemEutyches ogFlavian af Konstantinopel. I begyndelsen støttede han Eutyches, men efter at have fået oplysninger fra Flavian skiftede han mening og støttede ham fuldt ud. Ved et koncil iEfesos præsenterede Leos repræsentanter hans berømteTome (latin: tekst, brev), der var en redegørelse for den romerske kirkes tro i form af et brev til Flavian, der med henvisning tilAugustin meddelte grundsætningerne for den vestligekristologi uden egentlig at berøre problemet, der foruroligede den østlige kirke. Koncilet læste ikke brevet og tog sig ikke af protesterne fra Leos udsendinge, men afsatte Flavian og en af hans biskopper.
Leo erklærede herefter koncilet for en "røversynode" og erklærede Eutyches' tilhængere for kættere. Da den østromerske kejserTheodosius II døde i450, forandrede situationen sig, og den nye patriarkAnatolius af Konstantinopel accepterede Leos krav, hvorpåTomen blev læst og anerkendt overalt. Et nyt koncil i Chalcedon kom tilsyneladende til at fremstå som en total anerkendelse af pavens magt, men Leo måtte navigere behændigt for at undgå at godkende et dekret om Konstantinopels næsten ligeværdighed med Rom. Samtidig fik han indsat nogle af sine støtter på betydningsfulde poster i østkirken.
Det vestromerske rige var på vej til at bryde sammen, og med den civile magts svindende betydning fik Leo mulighed for at øge sin magt. Derfor blev det Leo, der sammen med to højtplacerede civile embedsmænd i452 mødteAttila, der havde invaderetItalien og nu truede Rom. Det lykkedes at få Attila til at trække sig tilbage. Der er forskellige forklaringer på, hvorfor det lykkedes: En samtidig skribent,Prosper af Aquitanien, hævder, at Attila ganske enkelt blev så imponeret over Leo, at han accepterede at trække sig tilbage. Mere jordnære forklaringer er, at Leo medbragte en stor sum guldpenge, eller at Attila pga. strategi eller logistik ikke ønskede at gå videre. Da Attilas hær var hårdt presset og havde et stort rov efter plyndringer, kan Leos bøn om nåde have været en acceptabel begrundelse for at vende om.
Nogle år senere var detvandalernes tur til at hærge landet, og her lykkedes det ikke Leo at forhindre Roms plyndring, men det menes, at det lykkedes ham at begrænse myrderier og afbrændinger. Da han døde, havde han været pave i 21 år. Han er den pave, der har beklædt embedet 9. længst tid.