A terület már a kőkorszakban lakott volt. A város mai területén létezett egy római kolónia, Castrilocus néven. A7. századbanSzent Ghislain és követői egy kápolnát építettek itt. A középkorban a kereskedelem és gazdaság virágzott, a népesség gyorsan nőtt. A13. század végére a város lakossága elérte a 4700 főt. Mons1295-ben Hainaut székhelye lett. A15. század végére 8900 lakója volt a városnak.
Mons régi városrésze a háttérben
1515-benV. Károly spanyol király ellenőrzése alá került a térség. A16. században az ellenreformáció ideje alatt sok embert öltek meg a városban.1691.április 8-án, kilenc hónapos ostrom utánXIV. Lajos francia király csapatai bevették a várost.1697 és1701 között osztrák, majd1701 és1709 között ismét francia ellenőrzés alatt állt, majd a hollandok irányítása alá került.1715-ben az osztrákok ellenőrzése alá került.XV. Lajos1746-ban ismét ostromolta a várost.1792-ben aztán Hainaut tartományt annektáltaFranciaország.
1814-ben,Napóleon államának összeomlása utánHollandia kezére került Mons. A hollandok jelentős erődítési munkálatokat végeztek.1830-ban Mons a függetlenBelgium része lett. Az1860-as években jelentősen átépítették a várost (körutak építése).1914.augusztus 23-a és 24-e között a britek ittharcoltak a németek ellen, akik később elfoglalták a várost. Azelső világháború utolsó napjaiban kanadai egységek szabadították fel Mons-t a német megszállás alól.1944 szeptemberében súlyos harcok dúltak az amerikai és a visszavonuló német csapatok között a város térségében.2006 áprilisában a helyi börtönben lázadás tört ki, halálesemény nem történt.