Juriste, Karl Carstens suit un cursus international en droit et science politique au sein des facultés de Francfort, Dijon, Munich, Königsberg et Hambourg au cours desannées 1930. Devenuavocat en 1939, il est contraint, comme la plupart de ses collègues de l'époque hitlérienne, d'adhérer auNSDAP. À partir de 1934, il appartient au Sturm 5/75 desSA, organisation paramilitaire du NSDAP.
Soldat durant la guerre, il ouvre en 1948 un cabinet d'avocat dans sa ville de Brême, avant de reprendre des études de droit en 1949 à l’université Yale.
Il occupe le poste de conseiller juridique du Sénat de Brême dans les années 1940 et 1950, avant de devenir l'un des représentants de l'Allemagne auConseil de l'Europe.
Pardoxalement, ce n'est qu'en 1972 que Karl Carstens est élu pour la première fois auBundestag. Il deviendra rapidement, dès le mois de, le président dugroupe CDU/CSU, alors dans l'opposition. Dans ce cadre, il sera un critique acerbe du gouvernement SPD, en l'accusant de céder trop facilement aux thèses de l'aile la plus à gauche de la majorité et en déplorant son manque de fermeté à l'égard de l'extrême-gauche.
Les élections de 1976 sont une demi-victoire pour laCDU/CSU. Si elle ne parvient pas à renverser lamajorité SPD-FDP, elle retrouve sa place de principal groupe parlementaire, ce qui vaut à Karl Carstens d'être élu président duBundestag.
Les chrétiens-démocrates gouvernant également la majorité des Länder, l’Assemblée fédérale élit Carstensprésident fédéral le, face à l'ex-présidente duBundestag,Annemarie Renger. Durant son mandat, il s'attachera à renouer les liens entre la classe politique et la population, notamment en pratiquant à travers tout le pays de grandes randonnées à pied, dont il est - comme de nombreux Allemands - un pratiquant assidu.