Una de les seves primeres feines aHollywood va ser un treball com a extra aAll Quiet on the Western Front (1930),[5] tot i que se'l va acomiadar per parlar amb el director,Lewis Milestone. Després d'algunes pel·lícules curtes, va aconseguir el seu primer èxit ambThe Seventh Cross, una pel·lícula protagonitzada perSpencer Tracy.
Zinnemann va estar en actiu en una carrera excepcional que va durar sis dècades, durant les quals va dirigir 22 llargmetratges, 19 curts i va guanyar quatreOscars. Potser el seu treball més conegut ésSol davant el perill (1952), un dels primers 25 clàssics del cinema americà escollits el 1989 pelNational Film Registry, ambGary Cooper iGrace Kelly.
Entre les seves pel·lícules, destaquem els dramesD'aquí a l'eternitat (1953),Història d'una monja (1959),Un home per a l'eternitat (1966) iJulia (1977). Considerat com a consumat artesà, Zinnemann destacava per l'atenció meticulosa en els detalls, per aconseguir repartiments brillants i una preocupació amb els dilemes morals dels seus personatges.
La predilecció de Zinnemann pel realisme ja és evident en el seu primer treballThe Wave (1935), on rodava els exteriors a Mèxic amb actors principalment no professionals reclutats entre els locals, i que és un dels primers exemples de realisme en pel·lícula narrativa. Zinnemann treballaria amb el documentalistaRobert Flaherty, una associació que considerava l'esdeveniment més important de la seva vida professional.
El cineasta també va utilitzar gent del poble aThe Search (1948), que va guanyar un Oscar pel guió i s'assegurava la seva posició aHollywood. Es tracta d'un drama de laSegona Guerra Mundial on destacaven les habilitats de Zinnemann com a documentalista i dramaturg. Rodada en una Alemanya destruïda per la guerra, l'actriu principal - en el seu debut al cinema - es preocupa per a un noi txec perdut i traumatitzat per la guerra. En l'esmentadaThe Men (1950), protagonitzada perMarlon Brando en el paper d'un paraplègic veterà de guerra, Zinnemann filmava moltes escenes en un hospital de Califòrnia on els pacients reals servien d'extres.
L'elecció dels actors per part de Zinnemann eren tan aviat atrevides com assenyades. Per a la seva adaptació de l'obraThe Member of the Wedding (1952), Zinnemann va triarJulie Harris, de 26 anys per unaprotagonista de 12 anys. AD'aquí a l'eternitat (1953), va catapultarFrank Sinatra, que era en el punt més baix de la seva popularitat.[6] Emulant el seu personatge Maggio, Sinatra va guanyar unOscar al millor actor secundari. AD'aquí a l'eternitat també presentavaDeborah Kerr, més coneguda per papers melindrosos, com l'esposa d'un capità que flirteja amb altres oficials.Audrey Hepburn, normalment en papers de comèdia, feia l'actuació de la seva carrera com l'angoixada Germana Luke aHistòria d'una monja. Zinnemann expressà la seva admiració per la disciplina, la gràcia i el tracta cap a tots els co·laboradors per part d'Audrey Hepburn.[5]:166
Durant la seva carrera Zinnemann va impulsar una mena de protagonista moralment impel·lit a actuar heroicament en defensa de les seves creences. Hepburn aHistòria d'una monja i Cooper aSol davat el perill, són dos exemples d'això.Paul Scofield com Sir Thomas More aUn home per a l'eternitat (1966) donava un retrat brillant d'un home conduït per la consciència al seu destí. Una variació sobre el tema es troba aThe Seventh Cross, en què el personatge central - un pres que s'escapa – protagonitzat perSpencer Tracy és passiu i fatalista.
I aJulia (1977), un altre dels èxits de Zinnemann, onVanessa Redgrave és una hereva americana que abandona la seguretat i comoditat d'un gran patrimoni per dedicar la seva vida a la causa antinazi aAlemanya. La pel·lícula és també coneguda per ser el debut en pantalla deMeryl Streep. Potser el solitari més inusual i pervers a les pel·lícules de Zinnemann ésEdward Fox com l'antiheroi despietat en elthrillerXacal (1973), un home que és impel·lit per un gran professionalisme més que per política per intentar matar el president francèsCharles de Gaulle.Va guanyar l'Oscar al millor director perD'aquí a l'eternitat iUn home per a l'eternitat i també va guanyar l'Oscar a la millor fotografia per l'última pel·lícula. Va rebre el seu primer Oscar el 1951 per aldocumental curtBenjy.