In seinen frühen Tagen schrieb Kahn fürsVarieté. 1913 begann er eine produktive Partnerschaft mit dem bewährten Komponisten Egbert van Alstyne, mit dem er mehrere beachtliche Hits der Ära schuf wieMemories und, zusammen mitTony Jackson,Pretty Baby. Später begann er, Liedtexte für denKomponisten undBandleaderIsham Jones zu schreiben. Diese Partnerschaft führte zu einer von Kahns bekanntesten Arbeiten,I'll See You in My Dreams (deutsch:In all meinen Träumen bist Du), gleichzeitig Titel eines vonMichael Curtizinszenierten Films über sein Leben mitDanny Thomas undDoris Day in den Hauptrollen. InWoody Allens FilmSweet and Lowdown mitSean Penn in der Hauptrolle ist es eines der markantesten Lieder.
Kahn heiratete 1915[1] Grace LeBoy und hatte zwei Kinder, Donald und Irene. Irene war später mitArthur Marx verheiratet.
In den 1920er Jahren arbeitete Kahn zeitweise gleichzeitig für dieBroadway-MusicalsHolka Polka (1925),Kitty's Kisses (1926),Artists and Models (1927)Whoopee! (1928) undShow Girl (1929) und für eine Reihe von Filmen, überwiegend beiMGM.
Sein Lebenswerk umfasst einige der bekanntesten Lieder der ersten Hälfte des 20. Jahrhunderts. 1970, fast 30 Jahre nach seinem Tod wurde er in dieSongwriters Hall of Fame aufgenommen.
Seine berühmtesten Lieder sindIt Had to Be You (1924) mit der Musik von Isham Jones (von Johnny Mercer als”größter je geschriebener Popsong” bezeichnet und gespielt in über 40 Filmen, darunterCasablanca,Der Stadtneurotiker,Harry und Sally) undMakin' Whoopee! (1928) mit der Musik von Walter Donaldson.