Stern werd geboren in het destijds Duitse Sohrau, het tegenwoordigeŻory,Neder-Silezië inPolen. Hij was de oudste zoon van graanhandelaar Oscar Stern en Eugenie Rosenthal. In 1892 verhuisde hij met zijn ouders naarBreslau. Hij studeerde er fysische scheikunde aan de universiteit die hij in 1912 afrondde met een doctorsgraad. Via zijn leermeesterOtto Sackur verkreeg hij een positie als onderzoeksstudent bijAlbert Einstein, eerst inPraag en later inZürich. Hij werd in 1913 privaatdocent in fysische chemie aan deEidgenössische Technische Hochschule (ETH).
Het jaar daarop ging hij naaruniversiteit van Frankfurt. In 1915 behaalde hij er zijnhabilitatie, waarna hij in 1918 werd benoemd tot adjunct-hoogleraar bij het Instituut voor Theoretische Natuurkunde vanMax Born. Vanaf 1921 werd hij hoogleraar aan deuniversiteit van Rostock. Deze post verliet hij in 1923 om te werken bij het pas opgerichteInstitut für physikalische Chemie aan deUniversiteit Hamburg. Hij bouwde zijn laboratorium uit tot een wereldberoemd centrum van de moleculaire-bundelfysica, dat vele buitenlandse postdoc’s trok, zoals de latere NobelprijswinnaarsIsidor Isaac Rabi enJohn van Vleck.
Nadat hij in1933 door denazi's werd ontslagen aan de universiteit Hamburg emigreerde hij naar de Verenigde Staten. Hij werd er hoogleraar natuurkunde aan hetCarnegie Institute of Technology inPittsburgh en later professor emeritus aan deuniversiteit van Californië - Berkeley. Op 8 maart 1939 werd hij Amerikaans staatsburger. Tijdens de oorlog was hij werkzaam als raadgever op het Ministerie van Oorlog.