Erik Zabel crebbe nellaparte orientale di Berlino. Gareggiò da dilettante dal 1989 al 1992, cogliendo buoni risultati. Nell'ottobre 1992 passò professionista in seguito all'ingaggio da parte delTeam Telekom, sodalizio tedesco diretto daWalter Godefroot eFrans Van Looy. Con questa maglia si affermò presto comevelocista, e negli anni seguenti colse, sempre con la stessa formazione (divenuta anche Deutsche Telekom e T-Mobile) numerosissimi successi.
Dopo un 1993 caratterizzato da pochi successi e in gare minori, nel 1994 Zabel si aggiudicò quattro tappe alTour de l'Avenir e laParigi-Tours, classica d'autunno valida per laCoppa del mondo. Nel 1995 cominciò quindi a vincere in volata con maggiore regolarità, facendo sue tra le altre una frazione allaTirreno-Adriatico, due alTour de Suisse e due alTour de France. Nel 1996 ottenne la prima di sei vittorie consecutive nellaclassifica a punti alTour de France, oltre a due tappe nella stessaGrande Boucle; in stagione vinse anche tre frazioni allaSetmana Catalana.
1997-2001: le maglie verdi al Tour e i successi alla Sanremo
Nella primavera del 1997 colse numerosi successi in corse spagnole, aggiudicandosi poi in volata laMilano-Sanremo, davanti adAlberto Elli – fu il primo di quattro successi in cinque anni nella "Classicissima" di primavera. Nel prosieguo di annata vinse anche una tappa al Tour de Suisse e tre alTour de France, con annessa maglia verde della classifica a punti. Nel 1998, dopo aver fatto sue tre frazioni alla Tirreno-Adriatico, fece il bis, sempre allo sprint, allaMilano-Sanremo. Laureatosicampione nazionale in linea, vinse per la terza volta la maglia verde alTour de France, pur non riuscendo ad aggiudicarsi nessuna tappa (fu per tre volte secondo, alle spalle diTom Steels, due volte, eMario Cipollini). L'anno dopo dovette accontentarsi del secondo posto allaMilano-Sanremo, anticipato dallo scatto diAndrei Tchmil a 800 metri dal traguardo. In stagione vinse comunque laRund um den Henninger-Turm, due tappe allaVolta Ciclista a Catalunya e ancora la maglia verde alTour de France, ancora una volta senza vittorie di tappa, ma con quattro secondi posti, alle spalle di Steels, Cipollini (due volte) eRobbie McEwen.
Nella primavera del 2000, dopo aver ottenuto vittorie e piazzamenti nelle gare spagnole di inizio stagione, tornò al successo allaMilano-Sanremo battendo allo sprintFabio Baldato e il campione del mondoÓscar Freire. A seguire concluse quarto alGiro delle Fiandre, terzo allaParigi-Roubaix, e vinse l'Amstel Gold Race. Grazie a questi piazzamenti, oltre al quarto posto nellaHEW Cyclassics di agosto, a fine stagione si aggiudicò la classifica generale diCoppa del mondo.[3] Conquistò inoltre ancora la maglia verde alTour de France, con un successo parziale nella penultima tappa. Nella stagione seguente, dopo i consueti trionfi primaverili in terra spagnola, fece poker allaMilano-Sanremo, superando in volata lo storico rivale Mario Cipollini. Dopo i quattro successi alGiro di Baviera, i tre alDeutschland Tour e i due al Tour de Suisse, alTour de France vinse tre frazioni e superò l'australianoStuart O'Grady nella classifica a punti per soli quattro punti, facendo sua la maglia verde per la sesta e ultima volta. In chiusura di annata si aggiudicò anche laHEW Cyclassics e tre tappe allaVuelta a España, risultando il ciclista in testa alla classifica individuale UCI di fine anno.[4]
Nel 2002 ottenne vittorie di tappa in numerose gare brevi – spiccano i quattro trionfi al Deutschland Tour e i due al Tour de Suisse. AlTour de France, pur vincendo una tappa, dovette invece accontentarsi del secondo posto nella classifica a punti, alle spalle di Robbie McEwen; si rifece allaVuelta a España, con quattro secondi posti e il successo nella graduatoria a punti. In chiusura di annata fu terzo allaParigi-Tours e nella prova in linea deicampionati del mondo diZolder, vinta da Mario Cipollini; tali risultati gli consentirono di consolidare anche a fine 2002 il primato nella classifica individuale UCI.[5]
Dal 2003 arrivò sempre tra i primi tre nella classifica a punti del Tour de France, vinta daBaden Cooke nel2003 e da Robbie McEwen nel2004. Continuò a ottenere discreti risultati nella classifica a punti nonostante l'età ormai avanzata, arrivando secondo nella classifica a punti delTour de France 2006 e terzo nelle edizioni2007 e nel2008. Nel 2004 partecipò allaMilano-Sanremo dopo aver già vinto quattro volte la corsa negli anni precedenti. Partì da favorito ma sul traguardo esultò convinto del successo e smise di pedalare negli ultimi cinquanta metri, sufficienti allo spagnoloÓscar Freire per superarlo e batterlo.[6] Nello stesso anno, dopo nove corse vinte e diciotto secondi posti, venne convocato per icampionati del mondo diVerona, ma ancora una volta fu Freire a batterlo in volata.
Erik Zabel nel 2005
Nel 2005 la T-Mobile non lo iscrisse alTour de France, scegliendo di puntare alla classifica generale conAleksandr Vinokurov eJan Ullrich, senza pensare alle vittorie di tappa. L'anno dopo Zabel lasciò la squadra tedesca e si accasò allaMilram insieme all'ex rivaleAlessandro Petacchi. AllaVuelta, complice anche la forma non ottimale del velocista spezzino, Zabel poté giocarsi le sue carte e riuscì a vincere la quarta frazione con arrivo aCáceres e l'ultima aMadrid. Disputò poi iCampionati del mondo aSalisburgo, ma qui fu superato negli ultimi metri daPaolo Bettini e dovette ancora una volta accontentarsi del secondo posto.
Il 24 maggio 2007 confessò in conferenza stampa di aver fatto uso diEPO durante la prima settimana delTour de France 1996, smettendo subito a causa degli effetti collaterali avvertiti.[7] Negli ultimi anni, persa buona parte della rapidità nello sprint a causa dell'età, collezionò numerosi piazzamenti, per concludere la carriera allaParigi-Tours, il 12 ottobre 2008,[8] classificandosi settimo.
Dopo il ritiro è stato direttore sportivo alTeam Katusha nelle stagioni 2012, 2013 e 2019.[9]
Il 29 luglio 2013, in un'intervista pubblicata sullaSüddeutsche Zeitung, Zabel smentì la dichiarazione del 2007, ammettendo di essersi dopato continuativamente dal 1996 al 2003, ricorrendo a EPO,cortisone e trasfusioni di sangue, e di aver mentito per poter proseguire la carriera professionistica.[10]