Klezmerin juuret ovat ensimmäiseltä vuosituhannelta eaa. Osaa senmoodeista eli asteikosta käytettiin joJerusalemin toisen temppelin rukouksissa.[1] Klezmer-musiikki alkoi 1800-luvun puolivälissä levitäosmanien valtakunnan rajaseuduilta pohjoiseen ja länteen. Ne levisivät puhtaasti juutalaisia verkostoja pitkin. Klezmerissä käytettiin monia erilaisia soittimia sen mukaan, mitä oli saatavilla. Tyypillisesti yhtyeessä oli ainakin kaksi viulua, basso tai sello ja muita soittimia.[2]
Itä-Euroopan juutalaisten massamuutto 1880-luvulta lähtien levitti klezmer-musiikkia ympäri maailmaa. Yhdysvalloissa 1900-luvun alussa ääniteteollisuuskin kiinnitti joitakin muusikoita. Klezmer-äänitteiden kultakausi oli 1914–1932, jolloin muun muassa pinnalle nousivatklarinetistitNaftule Brandwein jaDave Tarras. Yhdysvalloissa myössynkooppirytmiset bulgarit nousivat 1930- ja 1940-luvulla suosioon. Valtavirtamuusikot yhdistelivät musiikkinsa erilaisia klezmer-aineksia.Benny Goodmanin vuoden 1939 kappale ”And the Angels Sing” oli sovitus Dave Tarrasin bulgarista.[2]
Toisen maailmansodanholokaustin jälkeen amerikkalaisen klezmerin se juurilta, mutta musiikkitieteilijäMichael Alpertin mukaan klezmerin elävöityminen alkoi 1970-luvun puolivälissä, jolloin uudet muusikot etsivät vanhoista klassisista äänityksistä vaikutteita. Yhdysvalloissa klezmerin uusi tuleminen levisi 1980-luvun lopulla Eurooppaan, missä muun muassa Saksassa ja Italiassa perustettiin uusia yhtyeitä.[2] Nykyisin klezmeriin yhdistellään varsin vapaasti eri musiikkityylejä, esimerkiksi rock-musiikkia. Suomessa esimerkiksiAlamaailman Vasarat -yhtyeen musiikissa on kuultavissa vaikutteita klezmeristä, vaikkei yhtye ole varsinainen klezmer-yhtye.