Teoderik blev som barn af sin farTeodemir sendt tilKonstantinopel som gidsel og sikkerhed for, at en traktat mellem den gotiske konge Teodemir og den romerskekejserLeo 1. ville blive overholdt. Teoderik benyttede denne periode til at knytte stærke venskabsbånd til kejser Leo og hans efterfølgerZenon. Han blev tilmed udnævnt tilkonsul. Samtidigt opnåede han stor indsigt i både romersk militærtaktik og administration.
Da han var blevet 20 år gammel i488, vendte han tilbage til østgoterne som deres konge. Og kejser Zenon bad Teoderik om at tage hånd om situationen i Italien, hvorOdoaker havde afsat den vestromerske kejser og var begyndt at true de romerske interesser i området. Østgoterne levede somfoederati i Romerriget, men der opstod ofte uroligheder blandt dem, og de var vanskelige at kontrollere, da de stadig manglede land til bosættelse. Teoderik og kejseren indgik derfor en gensidig aftale om, at østgoterne skulle få Italien, hvis de besejrede Odoaker.
Teoderik invaderede Italien i 488, og i493 indtog han Ravenna (Italienshovedstad), og fik Odoaker henrettet. Teoderik placerede derefter sig selv på den italienske trone. Han vedblev formelt at være vasal under den romerske kejser, men var i praksis en uafhængig monark.
Gennem størstedelen af sin regeringstid var Teoderik allieret medFrankerriget gennem sit ægteskab med den frankiske prinsesse Audofleda, men frankerkongenKlodevig 1.’s ambitioner om også at herske over goterne, førte til en langvarig krig, uden at det dog lykkedes for en af parterne at få overtaget.
På sine ældre dage nærede Teoderik mistro til alle omkring sig. Han sendtepave Johannes 1. tilKonstantinopel i spidsen for en delegation af fem biskopper og fire senatorer for at forhandle med kejserJustinus 1. Meget lidt vides sikkert om delegationens budskab til Justinus; men besøget var vellykket, idet paven lykkedes i at overtale kejseren til at behandle arianerne med større mildhed, og dermed undgå represalier mod katolikker i Italien. Johannes 1.s besøg førte også til forsoning mellem vest- og østkirken efter en dyb splittelse som følge af ZenonsHenocticon, udgivet i 482. Men nu mistænkte Teoderik paven og Justinus for at konspirere mod ham. I pavens fravær havde Teoderik beordret henrettelsen affilosoffenBoethius og svigerfaren Symmachus. Nu blev også pave Johannes arresteret og døde i fangenskab i Ravenna.[2]