Ottaviano var brorson till påveJohannes XI, samt son tillAlberik II, som han som sextonåring efterträdde sompatricier av Rom, och Alda av Vienne. Fadern Alberik var efter att han störtat sin morMarozia 932 Roms absoluta härskare, och före sin död 954 såg han till att den romerska adeln avlagt en ed iPeterskyrkan att hans son Ottaviano skulle bli vald till påve vid nästa vakans. När påveAgapetus II avled var Ottaviano bara 18 år, och valdes till att bekläda denHeliga stolen den 16 december 955, varvid han antog namnet Johannes XII. Detta är andra gången i påvelängden som någon antar ett påvenamn; den förste varJohannes II.
I Johannes samlades för första gången den adliga och den världsliga makten i en person. När han råkade i strid med kungBerengar II bad han den tyske kejsarenOtto I om hjälp. Den 2 februari 962 kröntes Otto tilltysk-romersk kejsare, och tio dagar senare blev Otto garant förKyrkostatens självständighet genomDiploma Ottonianum.
När kejsaren lämnat Rom och återerövrat territoriet från Berengar, blev Johannes orolig över den tyske kejsarens makt och tog kontakt medmagyarerna ochBysans för att förena sig mot Otto; men i november 963 återvände Otto till Rom.
Samtidabiskopar påstod att det påvliga palatset under Johannes XII:s tid blev en plats för rummel och dryckeslag,simoni samtorgier. Han anklagades öppet för detta av ensynod om 50 biskopar den 6 november 963, anklagad därtill förmord,incest ochäktenskapsbrott. När han vägrade förklara sig, utan iställetexkommunicerade deltagarna i synoden, utnämnde biskoparna lekmannenLeo VIII till nypåve. När Otto sedan lämnade Rom, utbrötinbördeskrig mellan Johannes XII:s och Leo VIII:s anhängare. Innan Otto kunde återvända till Rom ännu en gång avled Johannes XII, år 964; på vilket sätt är inte helt klart. Enligt ryktet avled han åtta dagar efter ett paralytiskt anfall han fått under akten vid ettäktenskapsbrott.