Harlem spelade en mycket betydelsefull roll underjazzens framväxt i början av1900-talet samt under jazzens guldålder som sedan följde. I Harlems många kyrkor kan man även upplevagospelmusik.
Under olika epoker har Harlem haft stora andelarjudiska, finska[1], spansk- och italienskättade invånare. En större inflyttning av svarta påbörjades kring 1900-talets första årtionde. Harlem hade under lång tid rykte om sig som ettgetto medkriminalitet ochdroger, i synnerhet sedan1920-talet då denorganiserade brottsligheten tog fart. I samma period flyttade stora delar av den vita befolkningen ut och Harlems rykte som "svart getto" förstärktes. På senare år har dock Harlem genomgått engentrifieringsprocess. Fastighetspriserna i stadsdelen har stigit kraftigt och den har åter blivit ett turistmål.