Jimmy Fallon è nato il 19 settembre 1974 nel quartiere diBay Ridge, nel distretto diBrooklyn (New York), figlio di Gloria e James W. Fallon. Fallon è per cinque ottavi irlandese, un quarto tedesco, e un ottavo norvegese. Sua nonna paterna, Luise Schalla, era originaria diOsterholz-Scharmbeck, comune tedesco dellaBassa Sassonia, inGermania, mentre uno dei suoi bisnonni materni, Hans Hovelsen, era emigrato daFredrikstad, inNorvegia. Il padre, veterano dellaguerra del Vietnam, ha trascorso l'adolescenza cantando per strada, in un gruppodoo-wop, e, poco dopo la nascita di suo figlio, trovò lavoro come riparatore di macchine perIBM aKingston, piccola città a 160 km a nord di New York. Successivamente la famiglia si trasferì nelle vicinanze diSaugerties, distante 175 km da New York. Fallon ha descritto la sua infanzia come "idilliaca", anche se i suoi genitori erano iperprotettivi. Lui e la sorella, Gloria, non potevano lasciare la casa e dovevano limitarsi a girare in bicicletta nel loro cortile.
Fallon ha frequentato la St. Mary of the Snow, una scuola elementare cattolica a Saugerties. All'epoca desiderava diventaresacerdote, ispirato dalle sue esperienze comechierichetto. Invece, con il passare del tempo, si è interessato allacomicità. Da ragazzo trascorreva intere notti registrando il programma radiofonicoThe Dr. Demento Show su un registratore a bobina, sperimentando sia la comicità che la musica. Fallon da adolescente amava il programma comicoSaturday Night Live. È cresciuto guardando il programma, o meglio le sole parti senza parolacce, che i suoi genitori registravano per lui. Lui e Gloria si divertivano a ricrearesketch del programma insieme ad alcuni amici. Fallon era talmente appassionato da aver creato un apposito evento settimanale per guardare lo show nel suo dormitorio al college.
Durante la sua adolescenza intratteneva i suoi genitori con diverse imitazioni, tra le quali quella dell'attoreJames Cagney e del comicoDana Carvey. Era anche un buon musicista, a tredici anni aveva imparato a suonare la chitarra. In seguito ha continuato a dedicarsi alla comicità e alla musica prendendo anche parte a concorsi e spettacoli. Durante gli anni delle scuole medie era stato etichettato come il pagliaccio della classe, ma anche descritto come in genere "bello e ben educato". Alla Saugerties High School, dove si è diplomato nel 1992, si esibiva nella maggior parte delle produzioni teatrali, cimentandosi anche come regista. Vinse un concorso come giovane comico grazie all'imitazione diPee-Wee Herman. Ha poi frequentato il College di Santa Rosa aAlbany, a 243 km da New York, seguendo dapprima i corsi diinformatica e passando poi allecomunicazioni, dedicandosi a spettacoli di stand-up comedy durante i fine settimana.
Fallon è conosciuto per il suo lavoro in televisione come membro del cast diSaturday Night Live e come presentatore del talk showThe Tonight Show Starring Jimmy Fallon. È stato incaricato di unirsi al programma della NBCSaturday Night Live come un membro del cast nel 1998, realizzando il sogno di una vita. Fallon è rimasto ad SNL per sei anni tra il 1998 e il 2004, co-conducendo il segmento Weekend Update del programma e diventando così famoso. Ha lasciato il programma per l'industria cinematografica, recitando in film comeNew York Taxi (2004) eL'amore in gioco (2005), che, tuttavia, non ebbero molto successo. È tornato in televisione come presentatore delLate Night with Jimmy Fallon sullaNBC nel 2009, dove divenne ben noto per la sua enfasi per musica e giochi. Abbandonò quindi il programma per diventare il sesto conduttore delTonight Show nel2014. Oltre al suo lavoro in televisione, Fallon ha pubblicato anche due album comici e diversi libri.
Ha sposato la produttrice Nancy Juvonen, co-proprietaria della compagnia di produzione Flower Films, il 22 dicembre 2007. Hanno due figlie, una nata nel 2013, Winnie Rose Fallon, l'altra nel 2014, Frances Cole Fallon, entrambe viagravidanza surrogata.