Catelinus tillhörde en framståenderomersk släkt; hans far Anastasius tituleradesillustris. Catelinus verkar hakonsekrerats till påve den17 juli561, men detta efter ett intervall på fem månader medan han väntade på att hans utnämning skulle godkännas av kejsaren avbysantinska riket. Han antog påvenamnet Johannes III.
Johannes lyckades återförena de frånfallna kyrkoprovinsernaRavenna ochMilano med Rom. År 567 hade två biskopar, Salonius av Embrun och Sagittarius av Gap, avsatts vid ensynod iLyon, och de fick kungen avBurgund att ställa sig bakom deras sak, varefter de med kungens stöd vände sig till påve Johannes för upprättelse. Påven lät sig övertalas till att häva domen motbiskoparna och återinsatte dem, vilket visade sig vara ett misstag.
Under Johannespontifikat härjades Rom avlangobarderna. Av den orsaken lät han kalla general Narses till Rom, som stått anklagad förförräderi vid hovet iKonstantinopel. Det är möjligt att generalen själv låg bakom langobardernas invasion, men han var likväl den ende kapabel att hejda dem, vilket var skälet att påven bad honom komma till Roms räddning år 571. Det förefaller som om påven då fick det kejserliga partiet i Rom emot sig.
Flera månader efter Naases återkomst till Rom levde Johannes iPraetextatus katakomber, som han lät restaurera, och där han firademässa och vigde prästerskapet till deras ämbeten. Inte förrän Narses död, omkring 572, återvände Johannes tillLateranpalatset.