Arlon împreună cuTournai șiTongeren sunt printre cele mai vechi localități din Belgia. Orașul Arlon a luat ființă la intersecția unor drumuri întreReims,Trier șiKöln. Înainte de cucerirea romană populația era de origineceltică. În perioadaImperiului Roman localitatea este numităOrolaunum Vicus.
În 1830 izbucneșterevoluția belgiană care duce la independența Belgiei. Până în 1839 întregul Mare Ducat Luxemburg face parte din noul stat belgian, dar în urma semnării tratatului de pace ce recunoaște independența noului stat, se ajunge la un compromis prin care jumătatea vestică, majoritar francofonă este separată de ducatul Luxemburg și alipită Belgiei, iar jumătatea vestică, majoritar germanofonă devine un stat independent, o monarhie înuniune personală cuRegatul Țărilor de Jos. Orașul Arlon este situat în apropierea noii frontiere, dar cu toate că este majoritar germanofon, devine reședința noii provincii belgiene.