Sergius var son till Peter skomakare, som bodde iRoms nionde region,Pigna. Innan han blev påve var han 1004–1009kardinalbiskop avAlbano. Han säkrade stödet frånJohannes Crescentius,patriciern som domineradeRom genom att stärka partiet som gynnadegermanerna. Omkring den 31 juli 1009 konsekrerades han till påve och antog påvenamnet Sergius IV; han anses därmed ibland varit den förste påve som antog ett påvenamn, menAgapetus I ochJohannes II kan även betraktas som den förste i denna tradition.
Fastän Sergius IV:s egen världsliga makt var begränsad under Crescentius, överlät många uradeln sina landområden till hans beskydd. Han visade sig vara en stor vän av de fattiga i tider av svält. Sergius IV:s begravdes iLateranbasilikan[1] och en delbenediktiner vördar honom somhelgon.