W1273 r. zebrani wRatyzbonieelektorowie mieli przeprowadzić wybór królaNiemiec. Wśród kandydatów znalazł sięPrzemysł Ottokar II, potężny królCzech, a także hrabiaHabsburga iKyburga, władcaGórnej Alzacji Rudolf. Ten ostatni cieszył się poparciem m.in.: palatyna reńskiego Ludwika II, księciaLeuenburga Albrechta III i burgrabiegoNorymbergi Fryderyka III Hohenzollerna. Kolegium elektorskie obawiało się siły i prestiżu króla czeskiego, wybór padł na Rudolfa[2], który wydawał się wystarczająco słaby. Okazało się inaczej. W ciągu miesiąca po elekcji Rudolf koronował się wAkwizgranie[2]. W1274 r., podczas obrad Sejmu Rzeszy w Norymberdze, Rudolf I przeprowadził rewindykację praw, przywilejów i majątków królewskich straconych przez Koronę od chwili śmierci cesarzaFryderyka II Hohenstaufa. Pozycję Rudolfa wzmocniło także poparcie papieżaGrzegorza X. Elekcja Rudolfa I oznaczała koniecWielkiego Bezkrólewia wNiemczech.
Rywal Rudolfa I,Przemysł Ottokar II, nie stawił się na Sejmie w Norymberdze, odmówił złożenia hołdu Rudolfowi i wycofania się zAustrii, którą zajął po wymarciu dynastiiBabenbergów. W1276 r. zawarto układ, na mocy którego syn Przemysła Ottokara,Wacław, miał poślubić córkę Rudolfa,Gutę, a Czesi mieli opuścić Austrię. Król czeski opóźniał jednak wykonanie postanowień traktatu i zawiązał sojusze z kilkoma książętami polskimi i niemieckimi, w tym z księciem Dolnej Bawarii Henrykiem I. Król Niemiec sprzymierzył się zkrólem WęgierWładysławem IV Kumańczykiem[2]. W1278 r. doszło dobitwy pod Dürnkrut[1](Suchymi Krutami), zakończonej zwycięstwem króla niemieckiego i śmiercią czeskiego króla. W1282 r. w Augsburgu Rudolf I nadał księstwa przejęte poBabenbergach swoim synom: AustrięAlbrechtowi, aStyrięRudolfowi. Była to podstawa późniejszej terytorialnej potęgi Habsburgów w Niemczech[1].
W1279 r. Rudolf I zrzekł się w imieniu Królestwa Niemieckiego praw doAnkony[2] iRomanii, które już wcześniej zagarnęłoPaństwo Kościelne (królowie niemieccy byli też formalniekrólami Włoch). Akt ten wynikał ze starań o dobre stosunki z papieżemMikołajem III – Rudolf zabiegał o przywrócenie cesarskiej godności królom niemieckim i własną koronację na cesarza rzymskiego. W1280 rokuHenryk IV Probus złożył mu hołd[2].
Rudolf ogłosił powszechny pokój ziemski w Niemczech a w1289 r. wyprawił się doTuryngii przeciwrycerzom-rozbójnikom, stanowiącym postrach Niemiec okresuWielkiego Bezkrólewia. Nie udało mu się jednak zapobiec wszystkim wojnom wewnętrznym. Arcybiskup Kolonii Zygfryd II Wastenburg walczył z księciemBrabancji Janem I oLimburgię, niepokoje wSzwabii wywoływał hrabiaWirtembergii Eberkard I. W1289 r. król Rudolf zmusiłhrabiego Dolnej Burgundii Ottona IV do złożenia mu hołdu. W ten sposób częściowo odnowił związki ziem burgundzkich z Niemcami.
W1291 r. próbował przeprowadzić elekcję swojego syna,Albrechta, na króla Niemiec, ale elektorowie odmówili. Rudolf I zmarł 15 lipca 1291 w Spirze, gdzie został potem pochowany. Królem Niemiec obrany zostałAdolf z Nassau. Mimo to, Albrecht w1298 roku wbitwie pod Gollheim pokonał konkurenta i został kolejnym królem Niemiec z dynastiiHabsburgów.
Pierwszą żoną Rudolfa byłaGertruda von Hohenberg, z którą miał dziesięcioro dzieci. Po jej śmierci (zm.1281 r.) Rudolf I poślubił w1284 r.Izabelę Burgundzką. Drugie małżeństwo okazało się bezpotomne. Dzieci Rudolfa i Gertrudy to:
.svg)
