Rossi kom fram som talang iJuventus i början av 1970-talet, men spelade då som ytter. Rossi debuterade som proffs förComo 1975 dit Juventus skickat honom för att få matcher efter tre knäoperationer. Hans karriär tog fart när han värvades avVicenza, där tränarenGiovanni Battista Fabbri satte upp honom i anfallet som center. Där visade sig Rossi vara ytterst målfarlig och blev skyttekung iSerie B. År 1977 gick laget upp iSerie A, där Rossi återigen blev skyttekung. Han togs ut till VM avEnzo Bearzot1978. Tillsammans medFranco Causio ochRoberto Bettega bildade Rossi en av turneringens bästa anfallskonstellationer, när Italien kom på en fjärdeplats. Rossi gjorde tre mål och steg upp som en av världens bästa anfallare.
När Vicenza 1979 åkte ur Serie A, blev Rossi utlånad tillPerugia. Där blev han inblandad i spelskandalenTotonero med uppgjorda matcher och avstängd de kommande två åren. Under avstängningen tillhörde han återigen Vicenza, innan Juventus köpte honom 1981. Han kom sensationellt tillbaka strax innan VM-slutspelet 1982 sedan han benådats och togs ut avEnzo Bearzot trots att han inte spelat på flera år. Rossi blev den store hjälten närItalien tog sitt tredjeVM-guld 1982. Efter ett gruppspel där Italien inte imponerat och blivit hårt kritiserat vände allt. Rossi gjorde tre mål motBrasilien (3–2) och i semifinalen motPolen gjorde han båda målen (2–0). I finalen motVästtyskland inledde Rossi målskyttet (3–1). Rossi blev med sina sex mål VM:s skyttekung och mottogBallon d'Or (Guldbollen). Rossi deltog även i VM-slutspelen1978 och1986. Han spelade 48 A-landskamper för Italien (20 mål) 1977–1986.