Ein tidlegslavisk busetnad nær Chemnitz var kallaKamienica. I 1143 var det eitbenediktinarkloster der byen er i dag. Ein busetnad voks fram rundt klosteret og rundt 1170 vart byen gjort tilfri keisarby avFredrik I av Det tysk-romerske riket. I 1307 kom byen inn undermarkgrevskapet Meissen (som var ein føregangar til staten Sachsen). I mellomalderen vart Chemnitz eit senter for tekstilproduksjon og handel. Meir enn ein tredjedel av folkesetnaden arbeidde i tekstilindustrien, og slik var det fram tilden industrielle revolusjonen. Fabrikkar vart bygd og tidleg på 1800-talet hadde Chemnitz vorte eit industrisenter (stundom kalla «Sachsen sitt svar påManchester»). I 1913 hadde Chemnitz eit folketal på 320 000 innbyggjarar, og er ein av få byar som var større på den tida enn i dag. I 1938 hadde Chemnitz 360 000 innbyggjarar.
Denausttyske regjeringa valde å gjere Chemnitz til ein sosialistisk mønsterby. Bydelar fulle med betongbygningar vart reist rundt sentrum av byen, og få av bygningane før krigen vart gjenreist. I 1953 vart Chemnitz gjeve namnetKarl-Marx-Stadt («Karl Marx By»). Han fekk tilbake det gamle namnet sitt 21. juni 1990.
Chemnitz har visstnok den lågaste fødselsraten i verda.[2]