그는 긴 현역 기간 동안 딱 500경기의 1부리그 경기에 출전하였는데,[2] 주로푸스발-분데스리가,세리에 A, 그리고독일 축구 국가대표팀에서 센터백으로 활약하였다. 그는 피지컬적인 힘과 공중볼 경합능력 등에서의 수비 능력으로 유명세를 떨쳤다. 그러나, 그는 마지막 출전 경기인 페예노르트와의 UEFA컵 결승전에서 레드카드를 받고 페널티 실점을 야기하여 좋지 않게 선수 생활을 끝맺었다.
현역 은퇴 후, 그는 독일 U-21 국가대표팀 감독이 되었고, 2003년 3월 31일에는바이어 04 레버쿠젠의 스포르팅 디렉터가 되었으나, 2004년 6월 29일에 그만두었다. 2005년 12월 17일, 그는MSV 뒤스부르크의 감독이 되었다. 2008년 8월 28일, 콜러는 독일3. 리가의VfR 알렌과 계약을 체결하였다. 그러나, 2008년 11월 16일에 그는 심장 문제로 감독직을 더 이상 하지 못하게 되었다. 그는 이후 알렌의 스포르팅 디렉터가 되었으나, 2009년 5월 5일에 해임되었다.[3]