Quando Fraunhofer rimaseorfano all'età di 11 anni, iniziò a lavorare come apprendista presso un vetraio di nome Philipp Anton Weichelsberger.
Nel1801 il negozio in cui lavorava crollò e Fraunhofer rimase sepolto sotto le macerie. L'operazione di salvataggio fu condotta da Massimiliano IV Giuseppe,principe elettore diBaviera, (il futuroMassimiliano I di Baviera). Da quel momento il principe entrò nella vita di Fraunhofer, aiutandolo a procurarsi i libri e costringendo il suo datore di lavoro a tollerare i suoi studi.
Dopo otto mesi di studio, Fraunhofer andò a lavorare all'Istituto di Ottica nell'abbazia diBenediktbeuern, unmonasterobenedettino sconsacrato dedicato alla fabbricazione del vetro. Qui scoprì come creare il miglior vetro ottico ed inventò un metodo incredibilmente preciso per misurare ladispersione ottica. Nel1818 divenne il direttore dell'Istituto. Grazie agli ottimi strumenti che aveva sviluppato, laBaviera sostituì l'Inghilterra come centro delle industrie ottiche.
Nel1814 Fraunhofer inventò lo spettroscopio e fu il primo ad investigare seriamente sulle righe di assorbimento nellospettro delSole, che vennero esaurientemente spiegate daKirchhoff e daBunsen nel1859. Le righe sono ancora oggi chiamatelinee di Fraunhofer in suo onore.
Francobollo dedicato a Joseph von Fraunhofer
Inventò, inoltre, ilreticolo di diffrazione e in questo modo trasformò laspettroscopia da arte a scienza, dimostrando come misurare esattamente lalunghezza d'onda dellaluce. Fu il primo a notare che gli spettri diSirio e di altrestelle brillanti erano diversi tra loro e da quello del Sole, dando inizio alla spettroscopia stellare.
La sua illustre carriera gli fece guadagnare un dottorato onorario dall'Università di Erlangen nel1822. Nel1824 fu insignito dell'ordine al merito, divenne nobile e gli venne concessa la cittadinanza onoraria diMonaco. Come molti altri fabbricanti divetro di quell'epoca, avvelenati dai vapori dimetalli pesanti, ai quali erano continuamente esposti durante la lavorazione, Fraunhofer morì giovane, nel1826 all'età di 39 anni pertubercolosipolmonare o, forse, più verosimilmente, per i vapori letali inalati. Venne sepolto all'Alter Münchner Südfriedhof (Antico Cimitero Meridionale di Monaco). Sulla sua tomba è incisa la scrittaAproximavit sidera (Avvicinò gli astri).