De plaats werd voor het eerst genoemd in de 12e eeuw. De heren van Boulay beheersten een groot gebied en waren in de middeleeuwen rivalen van degraaf-bisschoppen van Metz. In 1636, tijdens deDertigjarige Oorlog, werd de stadsmuur van Boulay geslecht.
Ook al ging de heerlijkheid in 1503, bij ontbreken van erfgenamen, op in hethertogdom Lotharingen, toch bleef Boulay een belangrijk administratief en gerechtelijk centrum. Dit bleef ook zo nadat Lotharingen in 1766 werd aangehecht bij Frankrijk. Na de Franse Revolutie verloor Boulay aan belang. Het was pas in 1871, onder hetDuitse Keizerrijk, dat Boulay een onderprefectuur werd. In 1863 werd in de stad de firmaDalstein-Haerpfer opgericht, die de grootste fabrikant van orgels van Frankrijk werd.
De stad werd voor een groot deel vernield in november 1944 tijdens de opmars van het Amerikaanse leger.[2]