Fra 1987 til 1990 spilte Sammer forDynamo Dresden, der han var med på å vinne toOberligamesterskap. Sammer scoret Øst-Tysklands siste landslagsmål før sammenslåingen av de to tyske forbundene. Han var en av de første østtyskerne som gikk til en stor vesttysk klubb etter gjenforeningen i 1990 da han gikk tilVfB Stuttgart hvor han var med på å vinneBundesliga i 1992. Senere gikk han til Inter Milan hvor han spilte en sesong, før han returnerte tilTyskland for å spille for Borussia Dortmund.
Her ble han den store stjernen, og var med på å vinne Bundesliga i 1995 og 1996, samtMesterligaen i 1997. En kneskade satte en stopper for hans aktive karriere etter 1998-sesongen.
I 2000 ble han trener for Borussia Dortmund, og laget vant Bundesliga i 2002. Han var trener for VfB Stuttgart i sesongen 2004-05.
Den 1. april 2006 skrev han en 5-årskontrakt med det tyske fotballforbundet, der han har stillingen somteknisk direktør. Jobben går ut på å koordinere talent-utvikling og treningsmetoder for alle alderstrinn på det tyske fotball-landslaget. Sammer skal også utarbeide taktiske systemer som skal brukes av alle landslagene.