כשסיימה את בית הספר התיכון, למדה קינג בקווינס קולג' (Queens College), שם הייתה בת כיתתו של ניל סדקה, ושימשה השראה ללהיטו Oh! Carol משנת 1959. במעין תשובה הומוריסטית, היא הוציאה את השיר Oh! Neil בשנת 1963. בעודה במכללה קשרה קשרי ידידות עם פול סיימון וג'רי גופין. קינג וגופין חברו יחד לכתיבת שירים. הם עבדו עבור חברת Aldon Music בבניין בריל בניו יורק, אשר הוציאה לאור להיטים רבים בשנות השישים. להיטם המשותף הראשון היה Will You Love Me Tomorrow, אשר הוקלט על ידי השירלס (The Shirelles) והגיע למקום הראשון במצעד בשנת 1961. שיר זה הוקלט מאוחר יותר אף על ידי קרול קינג, בן אי. קינג (Ben E. King), דאסטי ספרינגפילד, רוברטה פלאק, וזמרים בולטים נוספים. לאחר להיט זה חיברו בני הזוג את הלהיט Take Good Care of My Baby, אותו הקליט לראשונה בובי וי, שאף הוא הגיע למקום הראשון במצעד. גם להיט זה הוקלט על ידי זמרים בולטים נוספים.
קינג וגופין התחתנו בספטמבר 1960 ולהם שתי בנות אשר גם הן פתחו קריירה מוזיקלית.
בין להיטיהם הבולטים בשנת 1962 היו, The Loco-Motion, שהוקלט לראשונה על ידי ליטל אווה (Little Eva), וכן Go Away Little Girl שהוקלט על ידי סטיב לורנס. שני להיטים אלה הגיעו למקום הראשון במצעד. השיר Crying in the Rain, אותו הקליטו האחים אברלי (The Everly Brothers), הגיע למקום השישי במצעד האמריקאי.
בשנת 1967 כתבו את הלהיט Pleasant Valley Sunday עבור להקת המאנקיס (The Monkees), והגיע למקום השלישי במצעד. השיר נכתב בהשראת מעברם של בני הזוג לבית בשכונת פרברים בניו ג'רזי. בשנת 1968 התגרשו קינג וגופין. אולם, אף אחרי גירושיהם הם המשיכו לשתף פעולה לזמן מה, עד אשר ניתק ביניהם הקשר על רקע התדרדרות במצבו הנפשי של גופין.
במקביל לכתיבת שירים, קינג פתחה קריירה כזמרת. בשנת 1962 הקליטה את השיר It Might As Well Rain Until September, אשר הגיע למקום ה-22 במצעד האמריקאי והצליח יותר בבריטניה. בשנת 1963 הקליטה את השיר He's a Bad Boy שהגיע למקום ה-94 במצעד. בשנת 1967 קינג הקליטה את שירה Windy Day עם להקת האקזקיוטיבס. בסוף שנות השישים עקרה קינג לחוף המערבי והקימה להקה בשם The City, אשר הוציאה אלבום בודד.
Tapestry
לאחר שאלבומה הראשון כזמרת, "Writer", משנת 1970, זכה לביקורות אוהדות אך כשל במצעדים, הקליטה קינג את "Tapestry" בשנת 1971. האלבום מכיל שירים חדשים ואף ביצועים של קינג לשניים מלהיטיה: "Will You Love Me Tomorrow", ו-"A Natural Woman". האלבום זכה להצלחה מיידית ובנוסף לשירים שבוצעו מחדש, בלטו בו גם הלהיטים החדשים: "I Feel the Earth Move", "It's Too Late", "So Far Away" Where You Lead ו-"You've Got a Friend" שזכה באותה שנה גם לביצוע של ג'יימס טיילור שזכה להצלחה רבה גם הוא. האלבום נחשב כאבן דרך בהקלטות של זמרים-כותבים בכלל ושל נשים במוזיקת הפופ בפרט. האלבום נותר במצעד האלבומים במשך למעלה משש שנים ומכירותיו עלו על 10 מיליון עותקים בארצות הברית ולמעלה מ-25 מיליון עותקים בעולם כולו. בזכות אלבום זה זכתה קינג בארבעה פרסי גראמי, כולל פרס אלבום השנה. האלבום היה מבשרו של עידן אלבומי פלטינה, אף שהוצאתו קדמה למועד שבו מושג זה היה מוכר.
בשנת 2021 הוציאה עדי-קשת כהן גרסת כיסוי לשירה של קרול קינג "It's Too Late" עם עוזי רמירז לציון חמישים שנה לאלבום Tapestry.[2]
משנות ה-70 ועד ימינו
קינג המשיכה להיות זמרת ויוצרת פורה לאורך כל שנות ה-70. בכל אחת מן השנים 1971–1973 הוציאה אלבום שהפך לאלבום זהב או פלטינה. בשנת 1973 הופיעה קינג בקונצרט פתוח בסנטרל פארק בניו יורק ושברה שיא, נכון לאותה עת, במספר הצופים. למעלה ממאה אלף איש צפו בהופעתה.
אף בשנת 1974 הוציאה קינג אלבום מצליח (Wrap Around Joy) ופתחה בסיבוב הופעות בארצות הברית. אלבום זה הגיע למקום הראשון במצעדים, בפעם השנייה בחייה של קינג. עד לשנת 1980 המשיכה קינג להקליט אלבומי מוזיקה מדי שנה, אף שזכו להצלחה צנועה יותר.
בשנת 1982 החלה קינג לעבוד עם אטלנטיק רקורדס והוציאה שני אלבומים בשנים 1982–1983.
ב-1985 חיברה את פסקול המוזיקה לסרט הרומן של מרפי ואף שרה את שיר הנושא והופיעה בתפקיד קטן.
בשנת 1989 הוציאה את האלבום City Streets, אשר בשני שירים בו שיתפה פעולה עם אריק קלפטון. בשנת 1993 הוציאה אלבום בשם Color of Your Dreams עם הופעת אורח של סלאש.
בשנת 1994 הופיעה במחזמר Blood Brothers בברודוויי. בשנות ה-90 כתבה קינג שירים עבור זמרים שונים, בהם מריה קארי, סלין דיון, ועוד. קינג ממשיכה להופיע אף בעשור הראשון של המאה ה-21.
ב-2010 חזרה להופיע עם ג'יימס טיילור במועדון "הטרובדור" בלוס אנג'לס, בסדרת מופעים נוסטלגיים שקצרו הצלחה רבה ויצאו על גבי תקליטור. בהמשך להצלחה המשיכו טיילור וקינג להופיע בהופעות חיות בארצות הברית[3].
מחזמר המציג את סיפור חייה ושיריה, "ביוטיפול: המחזמר על קרול קינג" (Beautiful: The Carole King Musical), הועלה בתיאטראות ברודוויי בשנת 2014 ובעקבות ההצלחה המסחררת של המחזמר הוא הועלה בשנת 2015 גם בלונדון[5]. המחזמר עלה שוב ב-2018 בכיכובה של מליסה בניוסט.