הוא החל את הקריירה שלו כשחקן, כותב ומפיק קולנוע עם הבמאירוג'ר קורמן שנודע ביצירת סרטים פשוטים וזולים, שהעניקו נקודת זינוק לשחקנים וליוצרים מתחילים.
פריצת הדרך שלו באה בגיל מאוחר יחסית, כאשר גילם תפקיד משנה בסרט "אדם בעקבות גורלו" בשנת1969, וזכה במועמדות ראשונה לפרס האוסקר לשחקן משנה. בהמשך שיחק בתפקיד משנה בסרט "ביום בהיר אפשר לראות לנצח" מ-1970. באותה שנה קיבל בפעם הראשונה מועמדות לפרס האוסקר לתפקיד הראשי על משחקו בסרט "רסיסי חיים" בבימויו שלבוב רפלסון. הוא המשיך ושיחק בתפקידים ראשיים בסרטים נועזים יותר, כמו "ידע הבשרים" מ-1971.
פריצת הדרך החשובה ביותר שלו באה בסרט "צ'יינהטאון" שלרומן פולנסקי משנת1974, בו גילם את תפקיד הבלש ג'ק גיטיס[1][2]. שני סרטים חשובים נוספים בהם שיחק באותן שנים היו "קן הקוקייה" שלמילוש פורמן משנת1975 ו"הניצוץ" שלסטנלי קובריק משנת1980. הסרט הראשון קיבע את הדמות הצינית, חדת הלשון, שניקולסון חזר אליה פעמים רבות. שני האחרים קיבעו את דמותו האחרת, כאדם על סף הטירוף, שאליה שב פעמים רבות עוד יותר.
בזכות תפקידו כ"ג'וקר" בסרט "באטמן" הפך ניקולסון לשחקן שהרוויח הכי הרבה על סרט, שכן שכרו של ניקולסון כלל גם תמלוגים על ההכנסות ממכירת מוצרים נלווים לסרט (מרצ'נדייז).
בשנת1994 השתתף ניקולסון לצד השחקניתמישל פייפר בסרטו האפל של הבמאימייק ניקולס, "זאב", אשר עסק בחוויה האורבנית כחוויה אפלה ובודדת. בסרט זה הופך ניקולסון בעקבות נשיכת זאב מסתורית לזאב בלילות, ומשליט צדק בסביבה הקרובה אליו באמצעות כוחותיו החדשים.
בשנת2013, דיווח המגזין "סטאר" כי ניקולסון סובל מאובדן זיכרון והפסיק למעשה להשתתף בסרטים, בלי שהודיע על כך רשמית[13]. לאחר שבמשך עשור הוא הופיע בשלושה סרטים בלבד. אך ניקולסון טען מצדו כי הוא רק מפגין בררנות רבה יותר בבחירת התסריטים[14]. בשנת2017 הוכרז שניקולסון חוזר לשחק ויככב בעיבוד האמריקאי לסרט הגרמני "טוני ארדמן"[15]. אך הפקת סרט זה בוטלה.
באוקטובר 2024, פורסם שניקולסון יקבל פרס על ידיהיכל התהילה של הכדורסל וייכנס ל-"James F. Goldstein SuperFan Gallery" של ההיכל. ניקולסון יקבל את ההוקרה על תמיכתו בקבוצת הלוס אנג'לס לייקרס.[16]
בחייו הפרטיים, ניקולסון ידוע לשמצה בחוסר יכולתו "להתיישב", הוא נכלל ברשימת "10 אגדות המין המובילות בעולם" של מגזין הגבריםמקסים. הוא הוליד שישה ילדים מחמש נשים למרות שהיה נשוי פעם אחת בלבד. נישואיו היחידים של ניקולסון היו לשחקנית סנדרה נייט מ-1962 עד 1968, אם כי הם נפרדו כבר ב-1966. לבני הזוג הייתה בת אחת.
השחקניתסוזן אנספק, טענה שניקולסון הוא אבי בנה כיילב, יליד 1970. בשנת 1984, ניקולסון הצהיר כי אינו משוכנע שהוא אביו של כיילב, אך בשנת 1996, כיילב הצהיר כי ניקולסון הכיר בו כבנו, ושבין 1988 ל-1994, ניקולסון סיפק סיוע כספי לו למימון לימודיו בקולג'. ב-1998 בראיון למגזין "רולינג סטון" ניקולסון הכיר לראשונה בפומבי בכיילב כבנו והצהיר שהם מסתדרים "יפה עכשיו".
בשנים 1971 ו-1972 ניקולסון היה במערכת יחסים עם הזמרתמישל פיליפס, אשתו לשעבר של חברו הטובדניס הופר, שבמהלכן היא סבלה מהפלה טבעית. מערכת היחסים הארוכה ביותר של ניקולסון הייתה 17 שנים עם השחקניתאנג'ליקה יוסטון, מ-1973 עד 1990. אם כי מערכת היחסים כללה מספר תקופות של חפיפה עם נשים אחרות, כולל נערת הבונד לשעבר ג'יל סנט ג'ון והדוגמנית הדנית ויני הולמן, איתה ניקולסון הוליד כביכול בת, אם כי ניקולסון מעולם לא הכיר בפומבי בילדה.
הקשר עם יוסטון הסתיים כאשר ניקולסון ניהל רומן והוליד ילד עם השחקנית רבקה ברוסארד. נולדו להם שני ילדים: הבת לוריין (נולדה ב-16 באפריל 1990) והבן ריימונד (נולד ב-1992). ניקולסון וברוסארד נפרדו ב-1994; באוגוסט של אותה שנה, לניקולסון הייתה לכאורה בת עם המלצרית ג'נין גורין. ניקולסון מעולם לא הכיר בילדה בפומבי.
החל מסוףשנות ה-90, ניקולסון היה ביחסים עם השחקניתלארה פלין בויל. השניים נפרדו בתחילה בשנת 2000, לאחר מכן ניקולסון נקשר לדוגמנית העל האנגליתקייט מוס. בשנת 2006, כשהיה בן 69, ניקולסון יצא עם השחקנית פז דה לה הוארטה, הצעירה ממנו ב-47 שנים.
ניקולסון הוא מעריץ של קבוצת הבייסבולניו יורק יאנקיז וקבוצת הכדורסללוס אנג'לס לייקרס. הוא מחזיק בכרטיס מנוי של לייקרס מאז 1970, כאשר במשך 25 שנים מושבו הוא ליד ספסלי היריב, והוא החמיץ מעט מאוד משחקים[17].
עם שתים עשרה מועמדויות לפרסי אוסקר (שמונה לשחקן הטוב ביותר וארבע לשחקן המשנה הטוב ביותר), ניקולסון הוא השחקן הגברי המועמד ביותר בתולדות פרסי האוסקר. והוא זכה בשלושה פרסי אוסקר. הפרסים העיקריים האחרים שלו כוללים פרס גראמי, שלושה פרסיפרסי באפט"א ושישהפרסי גלובוס הזהב.
בשנת2008 הוכנס ל"היכל התהילה של קליפורניה", מוסד שהוקם על ידי אשת המושל,מריה שרייבר, כדי לחלוק כבוד לדמויות שתרמו לעיצוב המדינה[19].