Prvo naselje na području današnjeg Madrida osnivaarapski emirMuhamed I., u drugoj polovici9. stoljeća (između 860. i 880. godine), podižući gradinu vojnog te vjerskog karaktera, tzv.ribat, na lijevoj obali rijeke Manzanares, na mjestu gdje se danas nalazi kraljevska palača. Uskoro postaje poznata pod imenomMayrit (Magerit - u kasteljiziranoj formi). Dakle, Madrid se rodio kaoribat, tj. zajednica vojnog, ali i vjerskog karaktera, gdje su se muslimanski borci pripremali zadžihad, sveti rat.
Veći značaj Madrida počeo je u srednjem vijeku, 1561 g., kada ga je kraljFilip II. (Felipe II.) proglasio prijestolnicom Kraljevine Kastilje i Leona, te izToleda, dotadašnje prijestolnice, u njega seli svoj dvor. Jedino se u intervalu između1601. g. i1606. godne sjedište Španjolske seli uValladolid.
U vrijeme tzv. modernog doba od XVI. do XVII. st. Madrid se konsolidira kao prijestolnica nove države, Španjolske. Iza smrtiKarla II. (Carlos II), posljednjeg kralja izhabsburške dinastije na španjolskom dvoru, dolaze na vlast francuskiBurbonci (los Borbones ) u veljači1701. godine.
Prvi vladar iz dinastijeBurbonaca jeFilip V. (Felipe V), unukLuja XIV.
Za vrijema vladanjaKarla III. (Carlos III) napravljeno je puno na pretvorbi Madrida u svjetsku prijestolnicu, uvodeći javnu rasvjetu, urbanizirajući ga s prostranim trgovima s vodoskocima te raskošnim palačama okolo njih.
Španjolski građanski rat počinje u noći17. lipnja1936. kada i do Madrida stižu prve vijesti o pobuni vojske kojoj je na čelu generalFrancisco Franco, inicirane u španjolskom protektoratu uMaroku. Pobunjenicima je cilj bio ući u grad i srušiti vladu Španjolske "druge" republike. Madrid se pretvorio u tadašnju svjetsku scenu na kojoj se odigravala bitka između fašizma i slobode. I na jednu i na drugu stranu stizala je pomoć u materijalu i ljudstvu iz cijelog svijeta.28. ožujka1939. godine trupe generala Franca zauzele su grad dok za to vrijeme tisuće Madriđana bježe prema lukama i preko njih odlaze u druge zemlje, spašavajući tako goli život.
U poratno vrijeme grad se obnavlja od teških razaranja. Nakon mračnih 50-ih godina XX. stoljeća, dolazi vrijeme nepovratnog napretka u razmišljanju, modernizaciji industrije i prometnog povezivanja zemlje u kojoj najbitnije mjesto zauzima, dakako, Madrid. Doživljava demografsku eksploziju. Stotine tisuća ljudi se seli iz sela u grad.
NakonFrancove smrti1975. godine i dolaska na vlast kralja Ivana Karla I. (Juan Carlos I.), dolazi do uspostave demokratskog poretka.Ustavom iz1978. godine Madrid je potvrđen glavnim gradom Španjolske.
Godine1979., po prvi put demokratskim putem, dolazi na funkciju gradonačelnika, socijalist,Enrique Tierno Galván.
Gradom upravlja gradsko poglavarstvo (španj. Ayuntamiento) čiji se predstavnici biraju svake četiri godine općim pravom glasa svih građana starijih od osamnaest godina.
Gradskom poglavarstvu je na čelu gradonačelnik.
Nakon lokalnih izbora u svibnju 2007 godine ponovno je izabran na to, među Madriđanima izuzetno poštovano, mjestoAlberto Ruiz-Gallardón, kojeg neki več vide kao nasljednikaMariana Rajoya (Rajoy - hrv. Rahoj) predsjednika najjače španjolske oporbene strankePartido Popular (hrv. Narodna stranka).