Od vremena kasnog srednjeg vijeka naovamo carstvo je obilježeno naporima održanja carstva s težnjama teritorijalnih kneževa da preuzmu moć. U većoj mjeri nego u ostalim srednjovjekovnim kraljevstvima kao Francuskoj i Engleskoj carevi su bili u nemogućnosti da preuzmu kontrolu nad zemljama kojima su formalno vladali. U stvari da bi osigurali vlastitu poziciju carevi su bili prisiljeni da jamče sve više autonomije lokalnim vladarima, bilo svjetovnim bilo crkvenim kneževima. Ovaj proces počinje se razvijati od XI. stoljeća tijekom borbi za Investituru i manje više je zaključen Westfalskim mirom 1648. godine. Nekoliko careva je pokušalo preokrenuti polagano odumiranje svoga autoriteta ali su onemugućeni akcijama papinstva i kneževa carstva.
Budući car je prvo trebao biti izabran zakralja Rimljana (Rex Romanorum'/römischer König). Njemački kralj se od najstarijih vremena birao: u IX. stoljeću od pet najvažnijih plemena (Salijskih Franaka, Ripuarijskih Franaka, Sasa, Bavaraca i Švaba); kasnije od najvažnijih vojvoda i biskupa kraljevstva te na koncu od takozvanihKurfürsten (izbornih knezova). Elektorski kolegij je službeno ustanovljen 1356. godine ukazom češkog kralja Karla IV., zvanim Zlatna bula. U početku kolegij je činilo sedam elektora: grof palatin od Rajne, kralj Češke, vojvoda Saske, markgrof Brandenburga i nadbiskupi Kölna, Mainza i Triera. Tijekom tridesetogodišnjeg rata i vojvodi Bavarske je jamčeno pravo da glasuje kao osmi elektor. Od kandidata za izbor se očekivalo da ponude koncesije u posjedima i novcu da bi osigurali glas na izborima.Nakon izbora kralj rimljana je teoretski mogao da nosi titulu car tek nakon što bi bio okrunjen od pape. Međutim u mnogo slučajeva trebalo bi po nekoliko godina dok kralj ne svlada druge zadatke, često bi morao da riješi sukobe u buntovnoj sjevernoj Italiji ili pak svađe sa samim papom. Kasniji carevi su odustali od papinske krunidbe i nosili naziv izabrani-car (Emperor-Elect), posljednji car kojeg je okrunio papa bio je Karlo V. 1530. godine.Da bi postao car kandidat mora biti muškarac dobrog karaktera, stariji od 18 godina, a djedovi i bake mu moraju biti plemenitog roda. Nijedan zakon ne zahtjeva da treba biti katolik ali se podrazumijevalo. Nije bilo nužno ni da bude Nijemac (npr. Alfonso X. Kastiljski nije bio) ali je trebao imati posjede u carstvu.Niti u jednom razdoblju car nije mogao jednostavno izdavati ukaze i samostalno vladati carstvom, njegova moć i autoritet je bio ograničen raznim lokalnim vođama, poslije kraja 15. stoljeća ustanovljen jeReichstag kao zakonodavno tijelo carstva, koji je bio komplicirana skupština koja se sastajala neredovito na zahtjev cara u raznim mjestima. Tek nakon 1663.Reichstag postaje stalna skupština.
Tijekom gotovo tisućugodišnje povijesti Carstva dolazilo je do najrazličitijih promjena u unutarnjem uređenju. Ali primjetne su neke konstantne tendencije. Prije svega to je stalno opadanje utjecaja centralne, carske vlasti i gotovo neprestani unutarnji sukobi država i državica koje su činile ovo nekonzistentno, kvazi-jedinstveno Carstvo.
Ovdje će se analizirati institucije Carstva koje su trajale najduže i može se reći da su bile ustaljene. Prije svega to je institucija samog cara. Car je bio vrhovni vladar, nasljednik rimskih imperatora i uz papu glavara kada su njemačkog kralja (koji bi kasnije postajao Car) birala stara, najznačajnija plemenska vojvodstva, od 1356. ustalio se izbor preko posebnog elektorata. Taj elektorat činili su četiri njemačka velikaša - kralj Češke (Bohemije), markgrof od Brandenburga, grof Palatinata (Falačke) i grof Saske, kao i tri nadbiskupa - od Mainza, Triera i Kölna. Kasnije je dodan i peti svjetovni član, bavarski vojvoda. S obzirom na to da su oni suvereno odlučivali o izboru, kandidat za cara morao je utjecati na njih velikim nagradama i obećanjima zemljišnih posjeda. Sama titula caraKaiser je bila izvedena od imenaCaesar (Cezar) čime se se željelo uspostaviti vezu s Rimskim Carstvom[27] Svojom krunidbom u Rimu 800.Karlo Veliki je najavio obnovu Rimskog Carstva (Renovatio Romani Imperii)[27] nekoliko mjeseci nmakon krunidbe Karlo je počeo za sebe koristiti titulu »kralj Franaka… koji vlada Rimskim Carstvom«.[27] Postupak se ustalio kad se Luj II. proglasio za »cara Rimljana«.[27]
I tu nije bio kraj mukama novog cara. Sve do 1508. godine krunjenje je obavljao rimski papa. Često bi potrajalo i nekoliko godina dok bi budući car uspio srediti odnose u zemlji, odnose s papom i konačno stići u Rim na krunjenje.
Sve je ovo rafinirano činjeno da bi se već od početka utjecalo da car ima daleko manji ugled i autoritet nego što bi carstvo ove veličine zahtijevalo.
Teritoriji koji su činili ovu zajednicu bili su različiti.Carskim posjedom (članicom carstva) smatrao se svaki teritorij koja iznad sebe nije imao nikog drugog za seniora osim cara. Tako su tu spadali najrazličitiji teritoriji i političke tvorevine, od kraljevina (Češka), vojvodstava i kneževina, pa do biskupskih teritorija i slobodnih gradova.
Broj članica carstva prelazio je i nekoliko stotina i tijekom vremena se mijenjao ovisno o trenutnim političkim i vojnim prilikama. Stoga nema govora o bilo kakvom čvrstom formalnom uređenju.
Na realno nepostojanje središnje vlasti ukazuje i to što ni u jednom trenutku postojanja carstva car nije mogao izdati pravni akt koji bi nesporno važio za čitav teritorij. U prvom razdoblju ovo je bilo ograničeno raznim poveljama pojedinim teritorijima, kao i praktičkom samostalnošću raznih kneževa. Kasnije je ovo pravo cara i formalno uskraćeno formiranjem Reichstaga krajem 15. stoljeća. U prvom razdoblju Reichstag kao zakonodavna skupština se sastajao neredovito, na različitim mjestima, na zahtjev cara. Od 1663. godine Reichstag postaje stalno tijelo.
Teritorij da bi se smatrao zemljom, sukladno feudalnom pravu, iznad sebe nije smio imati nijedan autoritet osim samog cara ( tzv.Carska neposrednost ). U zemlje spadaju: ¤ Teritoriji pod vlašću vojvode ili kneza, a u nekim slučajevima kralja. Vladari Svetog rimskog carstva, s izuzetkom kralja Češke (elektora) nisu smjeli nositi titulu kralja u okviru carstva, ali neki su imali kraljevstva izvan carstva, kao na primjer u slučaju kraljevstva Velike Britanije čiji vladar je također bioknez-izbornik od Hanovera od 1714. do ukidanja carstva. Sam Reichhstag je bio institucija s ugrađenim vlastitim manama i imanentnom neučinkovitošću. Bio je sastavljen od tri doma: doma elektora, doma kneževa (svjetovnih i duhovnih) i doma slobodnih carskih gradova. Unutarnja struktura je bila zamršena, s mješavinom individualnih i kurijalnih glasačkih prava i odlikovala se vidljivom nejednakošću u predstavljanju konstituensa carstva. Kada se na to doda i praktička nedjelotvornost zakona koji bi nekako i bili doneseni, slika generalne neučinkovitosti središnje vlasti, kako izvršne tako i zakonodavne, postaje jasno vidljiva i nesumnjiva. Dva središnja carska suda su uživala određeni ugled u rješavanju neprestanih sporova članica.
Pokušaj striktnijeg formalnog uređenja napravljen je 1512. godine kada je organizirano 10carskih okruga, u stvari 10 regionalnih grupa državica koje su imale zasebne skupštine.Skupštine praktički nisu imale većeg utjecaja, a sama podjela je bila izvršena više u cilju boljeg organiziranja obrane i ravnomjernijeg oporezivanja.
Carstvo jepropalo 6. kolovoza 1806. kada se Franjo II. pod pritiskomNapoleona I. odrekao carske krune.