Seu pai era cantor. Durante os anos de escola foi atleta de destaque, o que lhe valeu uma bolsa para estudar na Universidade de Columbia, emNova York. Alguns anos mais tarde, sua família se mudou paraOklahoma e Harris foi junto, tendo descoberto seu interesse pela interpretação depois de atuar em várias obras teatrais na universidade.
Uma vez em Oklahoma, Harris se inscreveu na faculdade de artes cênicas da universidade estadual. Começou a atuar ao mesmo tempo diante do público no teatro local, onde conseguiu um sucesso notável. Com isto, mudou-se paraLos Angeles, onde continuou os estudos de interpretação no California Institute of the Arts.
O primeiro papel importante que Harris desempenhou no cinema foi emBorderline, comCharles Bronson, no qual Harris interpretou um assassino. Atuou em outros filmes até que em 1983 tornou-se uma estrela, devido à sua participação emThe Right Stuff, o qual relata a história dos primeiros astronautas americanos de maneira humorística. Seu papel foi o deJohn Glenn. A partir de então, Harris foi encontrando a fama como ator interpretando todo tipo de personagens em diversos filmes.
Foi indicado aoÓscar quatro vezes, três como melhor ator coadjuvante, emApollo 13,The Truman Show eThe Hours; e uma vez como ator principal, emPollock.
Recentemente demonstrou interesse pela direção. Estreou como diretor em 2000, com o filmePollock, com o qual ganhou alguns prêmios.
Interpretou com boas críticas o oficial alemão do regimento de franco-atiradores, major König emEnemy at the Gates (2001), junto comJude Law no papel deVassili Zaitsev.
Harris está casado desde 1983 comAmy Madigan, de quem tem uma filha.
2006 - NoSan Francisco International Film Festival, Harris recebeu o prêmio Peter J. Owens,[2] que é entregue a um ator cujo trabalho demonstre brilho, independência e integridade.A Flash of Green[3] foi exibido no festival em sua homenagem.