Na filmu je debitovao 1949. malom ulogom u filmuThe Lady Takes a Sailor, ali nije bio zapažen sve do 1954. i uloge uKjukorovoj komedijiTo ti se trebalo dogoditi, gde je bio partnerDžudi Holidej. Već sledeće godine dobijaOskara za mušku sporednu ulogu u filmuGospodin Roberts, u kome igra mornaričkog oficira kome ništa ne polazi za rukom.
Možda najpoznatiju ulogu ostvario je 1959. u filmuNeki to vole vrućeBili Vajldera, čiji je potom bio omiljeni glumac. U ovom filmu Lemon izvanredno igra drugorazrednog muzičara koji se sa svojim kolegom (igra gaToni Kertis) prerušava u ženu kako bi umakli gangsterima koji hoće da ih ubiju, da bi potom Lemon postao meta udvaranja matorog bogataša Ozguda (igra gaDžo I. Braun). Čuvena je Lemonova replika iz filma, dok pokušava da se otrese misli naMerilin Monro, i sa nezaboravnom grimasom govori sam sebi: "Ja sam muško, ja sam muško". Džeku Lemonu je upućena i čuvena završna replika u filmu, kada mu Ozgud, nakon što mu Lemon prizna da je muško, sa zagonetnim osmehom i uz sleganje ramenima kaže: "Niko nije savršen".
Već sledeće godine izuzetno je zapažen uVajlderovomApartmanu, gde igra sitnog činovnika koji se dodvorava šefovima tako što im dopušta da koriste njegov stan za susrete sa ljubavnicama, a onda saznaje da je njegov stan koristila i devojka u koju je zaljubljen (igra jeŠirli Maklejn). Njih dvoje su odličan par i uVajlderovom filmuSlatka Irma (1963), u kome Lemon igra dobroćudnogpariškog policajca, koji se prerušava u tajastvenog Mistera Iks da bi održao vezu sa prostitutkom mekog srca.
SaBili Vajlderom je snimio još i filmoveKolačić sudbine (1966),Avanti! (1972),Naslovna strana (1974) iDruškane, druškane (1981), pri čemu mu je u svim ovim filmovima (sa izuzetkom filmaAvanti) partner bioVolter Matau. Lemon je Mataua smatrao najboljim glumcem sa kojim je ikada sarađivao. Njih dvojica su postali veliki i doživotni prijatelji, koji su zajednički radili na čak 11 filmova. Osim pomenutih Vajlderovih filmova, posebno su uspešni bili u ekranizaciji čuvenogbrodvejskog komadaNila SajmonaNeobičan par (1968), kao i u filmovimaOtkačeni matorci (1993) iJoš otkačeniji matorci (1995).FilmOtkačeni matorci o dvojici namćorastih komšija koji se međusobno ne podnose, neočivano je postao komercijalni hit, donoseći dvojici ostarelih glumaca fanove i među najmlađom generacijom.
Matau igra glavnu ulogu i u Lemonovom filmuKoč (Kotch) (1971), jedinom u kojem se Džek Lemon oprobao kao reditelj. Matau je bio nominovan zaOskar za najbolju mušku ulogu u ovom filmu, a Lemon ima malo kameo pojavljivanje kao usnuli putnik u autobusu.
Mimo saradnje sa Vajlderom i Matauom, Lemon je posebno bio zapažen u filovima nastalim po pozorišnim komadima, na primerZatočenik druge avenije (1975), komedija nastala prema istoimenom brodvejskom hituNila Sajmona,Dani vina i ruža (1962), uspela drama o borbi protiv alkoholizma koju (paradoksalno) nose dve komičarske legende, glumac Džek Lemon i rediteljBlejk Edvards iliLjubaf (1967). Uspešan je bio i u filmuProvincijalci (1970), po scenariju Nila Sajmona, u kome saSendi Denis igra bračni par provincijalaca kojeg po dolasku uNjujork zadešavaju svi mogući i nemogući maleri, sve do kulminacije kada se napokon ukrcaju za avion koji ide kući a teroristi ga otimaju i traže da ide naKubu.
Izvrsne uloge dao je i u filmovimaSpasite tigra (1973)Džona Avildsena, gde igra poslovnog čoveka prožetog gorčinom i nezadovoljstvom (Oskar za najbolju mušku ulogu),Kineski sindrom (1979), velikom komercijalnom hitu saDžejn Fonda iMajklom Daglasom gde igra službenika nuklearne elektrane kojoj preti katastrofa (film je imao veliki uticaj na preispitivanje sigurnosti nuklearnih elektrana i ojačao pokret koji se protivi upotrebi nuklearne energije u ove svrhe), iNestali (1982)Koste-Gavrasa, u kome sa snahom (igra jeSisi Spejsik) odlazi uČile u dobaPinočeovog prevrata da pronađu sina/muža, ne znajući da je ovaj već mrtav.
Specifičan kultni status ima i komedijaNajveća trka oko sveta (1965), koju je režiraoBlejk Edvards, i u kojoj Džek Lemon,Toni Kertis iNatali Vud učestvuju u šašavoj trci koja se početkom XX veka odvija preko tri kontinenta.
U prvom delu karijere (1955-65) igrao je i seriji uspelih komedija koje je režiraoRobert Kvini, najpoznatije u filmuKako ubiti svoju ženu? (1965), u kojem mu je partnerkaVirna Lizi.
1990-ih je posebno bio zapažen u filmuGlengarry Glen Ross (1992), nastalom po poznatoj dramiDejvida Mameta, u čijoj all-star glumačkoj ekipi igraju iAl Paćino,Alek Boldvin,Alan Arkin,Ed Haris iKevin Spejsi, i u filmuKratki rezoviRoberta Altmana (1993), gde je ostvario efektnu ulogu naoko bezazlenog tipa za koga se ispostavi da je ubica, za koju je sa ostatkom (fenomenalne) glumačke ekipe podelio specijalni Zlatni globus.
Dobio je dvaOskara: za epizodnu ulogu u filmuGospodin Roberts (1955) i za glavnu u filmuSpasite tigra (1973), kao prvi glumac koji je dobio te dve nagrade.Bio je nominovan za Oskara i za uloge u filmovimaNeki to vole vruće (1959),Apartman (1960),Dani vina i ruža (1962),Kineski sindrom (1979),Priznanje (Tribute) (1980) iNestali (1982).
Dobitnik je dve nagrade za najboljeg glumca na festivalu uKanu (zaKineski sindrom iNestali), što je do sada pošlo za rukom još jedinoMarčelu Mastrojaniju (Din Stokvel je takođe dobio dve nagrade u Kanu, ali je obe morao da deli sa nekim).
Dobio je Srebrnog medveda za najbolju mušku ulogu na Filmskom festivalu uBerlinu 1981., za ulogu ukanadskom filmu u režiji Boba KlarkaPriznanje (Tribute), s tim što je nagradu ex equo sa njim podelio sovjetski glumac Anatolij Solonjicin za ulogu u filmu26 dana iz života Dostojevskog.
Dobitnik je triBAFTA nagrade: za najboljeg glumca 1983. (Nestali), odnosno za najboljeg stranog glumca 1960. (Neki to vole vruće) i 1961. (Apartman).
Dobio je nekolikoZlatnih globusa: 2000. zaNasledi vetar (najbolja uloga u mini seriji ili TV filmu), 1994. zaKratke rezove (specijalna nagrada dodeljena čitavoj glumačkoj ekipi), 1973. zaAvanti (najbolji glumac u mjuziklu ili komediji), 1961. zaApartman (najbolji glumac u mjuziklu ili komediji) i 1960. zaNeki to vole vruće (najbolji glumac u mjuziklu ili komediji).Inače, sa 22 nominacije je rekorder u broju glumačkih nominacija za Zlatni globus, računajući i glumce i glumice.
Bili Vajlder je za njega govorio da, iako je sjajan glumac, Džek Lemon ima urođenu tendenciju da preteruje sa glumom, te da to treba kontrolisati. U Vajlderovoj biografijiNiko nije savršen citiraju se njegove reči: "Lemona bih opisao kao prekrasnu šunku sa koje morate da sastružete malo masti". U istoj knjizi se citiraju i Lemonove reči: "Izuzetno sam prijemčiv za likove koje igram... Ako moj lik ima nervni slom, počinjem da ga doživljavam i ja".
Jedina scena smrti koju je Lemon imao na filmu, bila je uKineskom sindromu (1979).
Bio je prvi glumac koji je dobio Oskare i za glavnu i sa sporednu ulogu.
Jedini film u kojem su igrali Džek Lemon i Volter Matau a da se nisu pojavili u istoj sceni bio jeDŽ.F.K. (1991).
Jedna od njegovih najboljih dramskih uloga bila je u filmuDani vina i ruža (1962), gde Lemon igra biznismena alkoholičara, koji u jednom trenutku izgovara: "Zovem se Džo Klej... Ja sam alkoholičar".Primajući 1988. nagradu za životno deloAmeričkog filmskog instituta, Lemon je priznao da nije glumio dok je izgovarao ovu rečenicu i da se u to vreme zaista borio sa alkoholizmom.
1998. bio je nominovan za Zlatni globus u filmu12 gnevnih ljudi, ali je nagrada dodeljenaVingu Rejmsu. Nakon što je primio nagradu, Rejms je zamolio Lemona da izađe na scenu i onda mu na opšte iznenađenje predao nagradu. Udruženje stranih novinara uHolivudu, koje dodeljuje ovu nagradu, potom je odlučilo da se napravi još jedna nagrada i pošalje Rejmsu.Štaviše, kada je dve godine kasnije dobio novi Zlatni globus, primajući ga Džek Lemon je rekao: "U duhu Vinga Rejmsa, dodeljujem ovu nagradu Džeku Lemonu".
Njegov sin sa prvom suprugom, Kris Lemon (rođen 1954.) je takođe glumac. Njih dvojica su se pojavili zajedno u filmuAerodrom '77 (1977).
Rođen je u (bolničkom) liftu.
1989. se pojavio u epizodiSimpsonovih, ubeđujućiMardž da uđe u posao sa perecama. Inače, Lemonov otac se bavio pekarskim biznisom.
Na njegovom nadgrobnom spomeniku stoji jednostavan natpis "Džek Lemon - unutra". Sahranjen je odmah pored Voltera Mataua.
Nakon smrti Voltera Mataua, Lemon se sa prijateljima i rodbinom umrlog pojavio u TV šouLari KingaLarry King Live, kako bi mu odali priznanje. Paradoksalno, tačno godinu dana kasnije se skoro istovetna ekipa ponovo okupila u istom šou kako bi odali priznanje pokojnom Džeku Lemonu.
