Předchozípapež jménem Jan bylJan XIX., žádný papež Jan XX. neexistuje. Jan XXI. chtěl výběrem svého jména opravit chybu, která, podle tehdejšího mínění, vznikla při počítání jeho předchůdců poJanu XV.
Od roku1245 do1250 se stal známým pod jménemPedro Hispano (neboť přišel z Hispánie) a učil medicínu na univerzitě v Sieně, kde napsal díloSummulae Logicales, odbornou příručku k Aristotelově logice, která byla na evropských univerzitách užívána více než 300 let. Poté, co vešel ve známost jako univerzitní učitel, se vrátil doLisabonu. Na dvoře v Guimarães byl radním a mluvčím králeAlfonse III. Portugalského (1248–79) v církevních záležitostech; později byl v Guimarãespřevorem. Snažil se stát se lisabonskýmbiskupem, ale byl odmítnut. Místo toho se stal mistrem školy v Lisabonu. Jako významný filosof má taktéž podíl na vzniku schématu tzv.logického čtverce.
Dne8. září1276[1], po smrtipapežeHadriána V. (18. srpna), byl Pedro Hispano biskupy nakonkláve zvolen papežem a o týden později uveden do funkce. (Podle některých zpráv byl po smrti Hadriána V. zvolen papežem italský kardinál Vicedomino de Vicedominis, jenž přijal jméno Řehoř XI., který nicméně zemřel následujícího rána. Věrohodnost těchto zpráv, pocházejících ze17. století, je však sporná a většina moderních historiků je popírá.) Jedním z několika činů Jana XXI. během jeho krátkého potifikátu bylo zrušení nařízení, nedávno předtím schválených na2. lyonském koncilu, která kardinálům během volby nařizovala nejen samotu, ale také jim postupně odnímala zásoby jídla a vína, když rozhodování trvalo příliš dlouho.
Ačkoliv většina jeho krátkého pontifikátu byla pod taktovkou vlivného kardinála Giovanniho Gaetana Orsiniho (který ho později následoval ve funkci papeže jakoMikuláš III.), Jan se pokoušel zahájit výpravu doSvaté země a zasazoval se o spojenectví s Východní církvi a snažil se jak jen mohl o udržení míru mezi křesťanskými národy. Zahájil taktéž misi za účelem obráceníTatarů na křesťanství, avšak neúspěšně.
Papež užíval nové křídlopaláce veViterbu, které však bylo chatrně vystavěno. Jednou během spánku se střecha nad ním propadla a on byl vážně zraněn. Zemřel o osm dní později20. května1277, pravděpodobně jako jediný papež, jehož smrt zavinila nehoda. Jeho hrob je dodnes k vidění v Duomo di Viterbo (katedrála sv. Vavřince), kde byl pohřben.
Po jeho smrti se povídalo, že Jan XXI. byl ve skutečnosti čaroděj (nařčení často mířené proti papežům středověku z řad učenců, kterých nebylo mnoho, dokonce i během jejich potifikátu – např.Silvestru II.), a že když psal heretické pojednání ve svém pokoji, Bůh zasáhl a pokoj na něj spadl.
V Božské komediiDante vidí Jana XXI. (zmíněného jako Pietro Spano) v nebi mezi ostatními duchy velkých náboženských učenců.
Jan XXI. překvapivě napsal jednu z nejúplnějších prací ohledně pre- a post-koitálníantikoncepce; ve velmi populárním díleThesaurus Pauperum (Poklad chudoby) nabízí rady, jak kontrolovat porodnost a jak vyvolatmenstruaci. Mnoho z jeho návodů bylo současným výzkumem shledáno jako překvapivě efektivní a je z nich taktéž vyvozováno, že ženy vestarověku měly mnohem větší kontrolu nad svojí reprodukcí, než se předpokládalo dříve. Nicméně není zcela jisté, že autor tohoto díla a papež byli touž osobou.