Preddruhou svetovou vojnou bol hlavným klubom v mesteSV Victoria 96 Magdeburg, ktorý bol založený v roku 1896. Klubu sa pred druhou svetovou vojnou pomerne darilo a niekoľko krát zaznamenal účasť vo finálových bojoch vtedajšej najvyššej súťaže v krajine. Po vojne sa mestoMagdeburg ocitlo vsovietskej okupačnej zóne, pričom v rámci celéhookupovaného Nemecka došlo v rámcidenacifikácie k rozpusteniu okrem iných aj športových klubov a založeniu množstva nových menších klubov a spolkov. Hráči z rozpustených klubovMagdeburger SC Prussia 1899 aCricket Viktoria Magdeburg založili spolokSportgruppe (SG) Sudenburg. Neskôr sa tento spolok zlúčil s klubom SG Lemsdorf a vznikol takBSG Eintracht Sudenburg. Nový klub sa v roku 1950 pretransformoval do klubuSAG Krupp Gruson, v roku 1951 naBSG Stahl Magdeburg a v roku 1952 dostal klub menoBSG Motor Mitte Magdeburg. V roku 1957 sa futbalový oddiel premiestnil do klubuSC Aufbau Magdeburg. Klubu SC Aufbau Magdeburg sa v roku 1959 poradilo postúpiť doprvej východonemeckej ligy, kde sa však umiestňoval skôr v spodnej časti tabuľky. V roku 1964 sa však klubu podarilo vyhraťnárodný pohár.
V roku 1965 prišlo k rozhodnutiu vyčleniť futbalový oddiel z klubu SC Aufbau Magdeburg, čím sa položili základy nového klubu1. FC Magdeburg. Hneď prvá sezóna v prvej lige pod novým názvom dopadla katastrofálne, Magdeburg skončil na poslednom mieste a vypadol dodruhej ligy. Napriek tomu vPohári víťazov pohárov sa 1. FC Magdeburg prebojoval až do štvrťfinále, kde vypadol s klubomWest Ham United FC. V druhej lige strávil Magdeburg iba jednu sezónu v ktorej skončil na prvom mieste a vrátil sa späť do prvej ligy, z ktorej až dozjednotenia Nemecka nezostúpil.
S príchodom 70tych rokov začalo najúspešnejšie obdobie v histórií 1. FC Magdeburg. Spolu s tímomDynamo Dresden nemalo v tejto dekáde v lige konkurenciu. Zlatá éra začala v roku 1972, kedy Magdeburg vyhral svoj prvý ligový titul s najmladším tímom histórie. Nasledujúcu sezónu obsadil Magdeburg tretie miesto, no ďalšie dve sezóny vyhral tím dva ligové tituly v rade. Nasledovali tretie a dve druhé miesta. Až do konca 70tych rokov sa klub pohyboval iba v prvej štvorke ligovej tabuľky. Niekoľko úspechov však napriek tomu zaznamenal v národnom pohári. V sezóne 1973/74 zaznamenal 1. FC Magdeburg vôbec svoj najväčší úspech, keď zvíťazil vo finálePohára víťazov pohárov nadAC Miláno. Magdeburg sa tak stal jediným klubom zVýchodného Nemecka, ktorému sa podarilo vyhrať nejaký európsky pohár. 1. FC Magdeburg mal právo ako víťaz Pohára víťazov pohárov hrať v roku 1974Superpohár UEFA proti víťazoviPohára majstrov európskych krajín, ktorým bol v danom rokuBayern Mníchov. Tento zápas sa však z politických dôvodov nakoniec neodohral. V 80tych rokoch sa už Magdeburgu veľmi nedarilo, v lige sa umiestňoval v strede tabuľky, no podarilo sa mu v roku 1983 vyhrať národný pohár.
Vposlednej sezóne východonemeckej ligy obsadil Magdeburg až 10. miesto a v nasledujúcej sezóne už v rámci zjednotenéhoNemecka bol zaradený až do tretej najvyššej súťaže severovýchod. V tejto lige vydržal Magdeburg tri sezóny. Od sezóny 1994/95 hral Magdeburg štvrtú ligu. Až do súčasnosti 1. FC Magdeburg hráva striedavo tretiu a štvrtú najvyššiu súťaž. V sezóne2016/17 skončil 1. FC Magdeburg na štvrtom mieste, iba dva body od tretieho miesta zaručujúceho baráž o postup do2. Bundesligy.
Prvých 40 rokov svojej existencie hrával 1. FC Magdeburg svoje zápasy naErnst Grube Stadium. V roku 2006 bol postavený novýStadion Magdeburg s kapacitou 25 910 miest. V roku 2009 bol štadión premenovaný po sponzorovi MDCC.
Hlavnými rivalmi 1. FC Magdeburg sú klubyHallescher FC aDynamo Dresden. V minulosti mal klub pomerne vysoké návštevy. V posledných rokoch návštevnosť kolíše, no stále je pomerne vysoká.