Papin begon met voetballen bij de amateurclub inJeumont en speelde daarna een jaar bijUS Valenciennes-Anzin, het latereValenciennes FC. In1981 vertrok Papin naarINF Vichy, waar hij zijn jeugdopleiding afmaakte.
De aanvaller Papin speelde drie seizoenen bij INF Vichy en debuteerde als twintigjarige in 1983 in het eerste elftal. Een jaar later ging hij terug naar zijn oude club Valenciennes. Daar vertrok hij in 1985, na één seizoen, naarClub Brugge. In het seizoen 1985-86 scoorde Papin hij daar 32 doelpunten en won hij deBeker van België. In 2008 werd hij verkozen tot beste buitenlander die ooit voor Club Brugge speelde. In 1986 keerde de Fransman terug naar zijn vaderland om te spelen bijOlympique Marseille, dat 86 miljoenBelgische Frank voor hem betaalde. Bij Marseille ontstond de termPapinades, voor de acrobatischevolleys waar Papin een patent op had.
In 1992 trok Papin naarAC Milan, waar hij een vaste waarde werd en in zijn eerste seizoen samenspeelde metMarco van Basten. Daar bleef het bij, want Van Basten moest door een ernstige enkelblessure zijn carrière beëindigen. Papin bleef voetballen bij Milan en won in 1994 deUEFA Champions League met de club. Het volgende seizoen vertrok de spits naarFC Bayern München. Hij won daarmee in 1996 deUEFA Cup, maar besloot dat jaar om terug naar zijn vaderland te trekken.Girondins de Bordeaux was zijn nieuwe club, waar de ondertussen 33-jarige aanvaller weer plezier kreeg in het voetballen. In zijn eerste seizoen wist hij zestien doelpunten te maken in deLigue 1 en zowel in 1997 als 1998 bereikte hij met zijn club de finale van deCoupe de la Ligue.
In 1998 verhuisde hij naarEn Avant de Guingamp, de club waar hij aan het einde van het seizoen in 1999 ook zijn carrière als profvoetballer beëindigde. Papin was toen 35 jaar.
Hierna speelde hij bij de amateurclubsJeunesse Sportive Saint-Pierroise enUS Cap-Ferret. Voor US Cap-Ferret scoorde hij 140 doelpunten in drie seizoenen. In juli 2004, op 40-jarige leeftijd, besloot Papin zijn voetbalschoenen echt aan de wilgen te hangen.
In dienst vanOlympique Marseille werd Papin opgeroepen voor het nationale elftal van Frankrijk, waar toen ookMichel Platini speelde. Onder leiding van bondscoachHenri Michel debuteerde Papin op26 februari1986 voor Frankrijk, in de oefenwedstrijd tegenNoord-Ierland. Het was de eerste keer dat een Franse voetballer international werd nog voor hij één wedstrijd in de Franse eerste klasse had gespeeld. Hij speelde in totaal 54 keer voor denationale ploeg van Frankrijk. Hij scoorde dertig keer en was elf keer aanvoerder. Papin zat in de selectie voor deWK in 1986, waar Frankrijk derde werd.
Jean-Pierre Papin verliet de voetbalwereld niet en begon in2004 aan zijn trainersloopbaan.FC Bassin d'Arcachon, een amateurclub uit de buurt vanBordeaux, was zijn eerste club. In zijn tweede seizoen wist hij met deze fusieclub te promoveren naar de vijfde divisie (CFA2). Papin bleef ambitieus en diverse grotere clubs toonden belangstelling. In2006 trok hij naarRC Strasbourg om daar hoofdtrainer te worden. Ondanks een succesvol seizoen, waarin hij de club terugbracht naar deLigue 1, vertrok Papin na één seizoen.
Sinds27 augustus2007 werd Papin hoofdtrainer bij de Franse voetbalclubRC Lens, waar hij de opgestapteGuy Roux opvolgde. In zijn eerste seizoen bereikte hij de finale van de Coupe de la Ligue, die RC Lens verloor vanParis Saint-Germain. Ook is hij in het seizoen 07/08 metRC Lens gedegradeerd uit deLigue 1 op de laatste speeldag. Na de degradatie werd hij op 27 mei 2008 ontslagen.
Na anderhalf jaar werkloos thuis te hebben gezeten, werd hij op 29 december 2009 aangesteld als hoofdtrainer van de FransetweedeklasserChâteauroux.[2]