כשסיימה את בית הספר התיכון, למדה קינג בקווינס קולג' (Queens College), שם הייתה בת כיתתו שלניל סדקה, ושימשה השראה ללהיטוOh! Carol משנת 1959. במעין תשובה הומוריסטית, היא הוציאה את השיר Oh! Neil בשנת 1963. בעודה במכללה קשרה קשרי ידידות עםפול סיימון וג'רי גופין. קינג וגופין חברו יחד לכתיבת שירים. הם עבדו עבור חברת Aldon Music בבניין בריל בניו יורק, אשר הוציאה לאור להיטים רבים בשנות השישים. להיטם המשותף הראשון היהWill You Love Me Tomorrow, אשר הוקלט על ידיהשירלס (The Shirelles) והגיע למקום הראשון במצעד בשנת1961. שיר זה הוקלט מאוחר יותר אף על ידי קרול קינג,בן אי. קינג (Ben E. King),דאסטי ספרינגפילד,רוברטה פלאק, וזמרים בולטים נוספים. לאחר להיט זה חיברו בני הזוג את הלהיט Take Good Care of My Baby, אותו הקליט לראשונהבובי וי, שאף הוא הגיע למקום הראשון במצעד. גם להיט זה הוקלט על ידי זמרים בולטים נוספים.
קינג וגופין התחתנו בספטמבר1960 ולהם שתי בנות אשר גם הן פתחו קריירה מוזיקלית.
בין להיטיהם הבולטים בשנת1962 היו,The Loco-Motion, שהוקלט לראשונה על ידי ליטל אווה (Little Eva), וכןGo Away Little Girl שהוקלט על ידיסטיב לורנס. שני להיטים אלה הגיעו למקום הראשון במצעד. השיר Crying in the Rain, אותו הקליטוהאחים אברלי (The Everly Brothers), הגיע למקום השישי במצעד האמריקאי.
בשנת1967 כתבו את הלהיט Pleasant Valley Sunday עבור להקתהמאנקיס (The Monkees), והגיע למקום השלישי במצעד. השיר נכתב בהשראת מעברם של בני הזוג לבית בשכונת פרברים בניו ג'רזי. בשנת1968 התגרשו קינג וגופין. אולם, אף אחרי גירושיהם הם המשיכו לשתף פעולה לזמן מה, עד אשר ניתק ביניהם הקשר על רקע התדרדרות במצבו הנפשי של גופין.
במקביל לכתיבת שירים, קינג פתחה קריירה כזמרת. בשנת 1962 הקליטה את השיר It Might As Well Rain Until September, אשר הגיע למקום ה-22 במצעד האמריקאי והצליח יותר בבריטניה. בשנת1963 הקליטה את השיר He's a Bad Boy שהגיע למקום ה-94 במצעד. בשנת1967 קינג הקליטה את שירה Windy Day עם להקת האקזקיוטיבס. בסוף שנות השישים עקרה קינג לחוף המערבי והקימה להקה בשם The City, אשר הוציאה אלבום בודד.
לאחר שאלבומה הראשון כזמרת, "Writer", משנת 1970, זכה לביקורות אוהדות אך כשל במצעדים, הקליטה קינג את "Tapestry" בשנת 1971. האלבום מכיל שירים חדשים ואף ביצועים של קינג לשניים מלהיטיה: "Will You Love Me Tomorrow", ו-"A Natural Woman". האלבום זכה להצלחה מיידית ובנוסף לשירים שבוצעו מחדש, בלטו בו גם הלהיטים החדשים: "I Feel the Earth Move", "It's Too Late", "So Far Away" Where You Lead ו-"You've Got a Friend" שזכה באותה שנה גם לביצוע שלג'יימס טיילור שזכה להצלחה רבה גם הוא. האלבום נחשב כאבן דרך בהקלטות שלזמרים-כותבים בכלל ושל נשים במוזיקת הפופ בפרט. האלבום נותר במצעד האלבומים במשך למעלה משש שנים ומכירותיו עלו על 10 מיליון עותקים בארצות הברית ולמעלה מ-25 מיליון עותקים בעולם כולו. בזכות אלבום זה זכתה קינג בארבעה פרסיגראמי, כולל פרס אלבום השנה. האלבום היה מבשרו של עידןאלבומי פלטינה, אף שהוצאתו קדמה למועד שבו מושג זה היה מוכר.
קינג המשיכה להיות זמרת ויוצרת פורה לאורך כלשנות ה-70. בכל אחת מן השנים 1971–1973 הוציאה אלבום שהפך לאלבום זהב אופלטינה. בשנת 1973 הופיעה קינג בקונצרט פתוח בסנטרל פארק בניו יורק ושברה שיא, נכון לאותה עת, במספר הצופים. למעלה ממאה אלף איש צפו בהופעתה.
אף בשנת1974 הוציאה קינג אלבום מצליח (Wrap Around Joy) ופתחה בסיבוב הופעות בארצות הברית. אלבום זה הגיע למקום הראשון במצעדים, בפעם השנייה בחייה של קינג. עד לשנת1980 המשיכה קינג להקליט אלבומי מוזיקה מדי שנה, אף שזכו להצלחה צנועה יותר.
בשנת 1982 החלה קינג לעבוד עםאטלנטיק רקורדס והוציאה שני אלבומים בשנים 1982–1983.
ב-1985 חיברה את פסקול המוזיקה לסרטהרומן של מרפי ואף שרה את שיר הנושא והופיעה בתפקיד קטן.
בשנת1989 הוציאה את האלבום City Streets, אשר בשני שירים בו שיתפה פעולה עםאריק קלפטון. בשנת 1993 הוציאה אלבום בשם Color of Your Dreams עםהופעת אורח שלסלאש.
בשנת 1994 הופיעה במחזמר Blood Brothers בברודוויי. בשנות ה-90 כתבה קינג שירים עבור זמרים שונים, בהםמריה קארי,סלין דיון, ועוד. קינג ממשיכה להופיע אף בעשור הראשון של המאה ה-21.
ב-2010 חזרה להופיע עםג'יימס טיילור במועדון "הטרובדור" בלוס אנג'לס, בסדרת מופעים נוסטלגיים שקצרו הצלחה רבה ויצאו על גבי תקליטור. בהמשך להצלחה המשיכו טיילור וקינג להופיע בהופעות חיות בארצות הברית[3].
מחזמר המציג את סיפור חייה ושיריה, "ביוטיפול: המחזמר על קרול קינג" (Beautiful: The Carole King Musical), הועלה בתיאטראות ברודוויי בשנת 2014 ובעקבות ההצלחה המסחררת של המחזמר הוא הועלה בשנת 2015 גם בלונדון[5]. המחזמר עלה שוב ב-2018 בכיכובה שלמליסה בניוסט.