Ha interpretato vari film ma è principalmente noto per il ruolo di Higgins nel telefilm di grande successoMagnum, P.I., per il quale ha vinto unPremio Emmy (nel 1987) e unGolden Globe (nel 1982).
Nel 1975 ebbe un ruolo da coprotagonista nellaserie televisivaEllery Queen, dove interpretò la parte del presuntuoso Simon Brimmer, presentatore di programmi radiofonici, e al contempo investigatore in competizione conEllery Queen, che egli invano cerca di superare in astuzia e in acume deduttivo nella risoluzione di complessi casi di omicidio. Partecipò come guest star anche ad alcune serie televisive di successo comeKojak,Wonder Woman eHawaii Squadra Cinque Zero.
La notorietà per Hillerman arrivò nel 1980 con il ruolo da coprotagonista inMagnum, P.I., serie televisiva di successo in cui interpretò fino al 1988 la parte di Jonathan Quayle Higgins III,[4] giàsergente maggiore al servizio di Sua Maestà Britannica, responsabile e factotum della tenuta hawaiana dello scrittore Robin Masters e autore di continue angherie su Magnum. In quello stesso ruolo apparve anche in altre tre serie di successo:Simon & Simon (1982),La signora in giallo (1986) eIn viaggio nel tempo (1990, tramite immagini di repertorio).
Anche se ildoppiaggio italiano non permette di apprezzarlo appieno, Hillerman interpretò il ruolo di Higgins facendo sfoggio di un impeccabile accento britannico, che egli dichiarò di aver sviluppato ascoltandoLaurence Olivier,[1] e che spesso usò per giocare degli scherzi ai danni dei fan e dei colleghi. Tom Selleck, parlando del collega in seguito alla sua morte, lo descrive come un gentiluomo d'altri tempi, quasi avesse adottato anche nella vita il ruolo che lo rese famoso. Con il suo accento britannico Hillerman ingannò perfino gli inglesi: sempre Selleck raccontò di come a Londra gli chiesero "Dov'è il britannico, John Hillerman?" e quando lui rispondeva che egli era in realtà texano tutti pensavano che stesse scherzando e che invece l'attore fosse britannico.[5]
Diede in seguito altre interpretazioni più o meno importanti in diversi film ed episodi di serie televisive, ma il personaggio che lo rese famoso probabilmente gli impedì di ottenere ruoli più complessi.[5] Si ritirò dalle scene nel 1999 in una tenuta in Texas, dove ha risieduto fino alla sua morte, avvenuta il 9 novembre 2017 all'età di 84 anni.[6]