גייבל נולד בקדיז שבאוהיו,ארצות הברית לוויליאם הנרי, עובד בבאר נפט, ואדליין (לבית הרשלמן). אביו היהפרוטסטנטי ואמוקתולית. בגיל חצי שנה הוטבל בכנסייה הקתולית. כאשר היה בן עשרה חודשים, נפטרה אמו, ככל הנראה ממחלתסרטן המוח. אביו סירב לגדלו כקתולי ומשפחת אמו מחתה על כך. לבסוף הוחלט כי גייבל יבלה חלק מהזמן אצל דודיו. באפריל1903 נשא אביו לאישה את ג'ני דאנלפ. היא ניגנה בפסנתר ולימדה גם אותו . כנער, אהב גייבל לתקן כלי רכב עם אביו, ובנוסף נמשך לספרות ולשירה, ונהג לדקלם אתהסונטות של שייקספיר.
בשנת1917, עקב בעיות כלכליות של אביו, עברה המשפחה לחווה באזוראקרון, וגייבל החל לעבוד במפעלים לייצורצמיגים. בשנת1922 הוא עבר לפורטלנד שבאורגון, ועבד כמוכרעניבות.
בגיל 21, לאחר שקיבל ירושה של 300 דולר, פתח גייבל בקריירת משחק בתיאטרון ופגש את סוכנת השחקניםג'וזפין דילון, שמימנה עבורו לימודי משחק. בשנת1924 נישאו השניים ועברו להוליווד במטרה לפתח לגייבל קריירת משחק בקולנוע.בשנים1925–1930 שיחק גייבל בתפקידים משניים בסרטים אילמים ובתיאטרון, ובשנת 1930 הוחתם על חוזה בחברתMGM. הוא הופיע בהצגות תיאטרון שונות, התגרש והתחתן בשנית. ב-1931 הופיע גייבל לראשונה בסרט מדבר - "המדבר הצבוע" באותה שנה הופיע בסרט "סוזן לנוקס" לצידה שלגרטה גרבו. שנה לאחר מכן הפך לכוכב של חברת MGM. ב-1934 הופיע גייבל בסרט "זה קרה לילה אחד" וזכה בפרס אוסקר לשחקן הטוב ביותר. בהמשך הופיע גייבל בסרטים רבים: "המרד על הבאונטי" (היה מועמד לפרס האוסקר), "סן פרנסיסקו", "אבק אדום", וב-1939 בסרטו המפורסם ביותר "חלף עם הרוח" (על משחקו היה מועמד פעם נוספת לפרס האוסקר) ובעקבותיו כונה "המלך" של הוליווד. באותו זמן התחתן גייבל בפעם השלישית עםקרול לומברד.
באוגוסט1942 נהרגה קרול בתאונת מטוס, וגייבל השבור החליט להתגייס לצבא ולשרת במלחמת העולם השנייה. את רוב שירותו עשה באנגליה והוענקה לומדליית האוויר.בנובמבר1943, שב לארצות הברית. גייבל היה השחקן המועדף עלאדולף היטלר ובמהלך המלחמה היטלר הציע פרס כספי למי שיתפוס את גייבל ויביאו אליו.בתום המלחמה, הוא שב לחווה שלו וחידש את מערכת היחסים עם השחקנית וירג'ינה גריי. בשנת1949, נשא לאישה את הדוגמנית סילביה אשלי. ב-1952, התגרשו השניים. לאחר נישואים כושלים וסרטים לא מוצלחים, פתח גייבל בקריירה של שחקן עצמאי והפך לשחקן בעל המשכורת הגבוהה ביותר באותה תקופה.ב-1953 שיחק בסרטמוגמבו לצידן שלאווה גארדנר וגרייס קלי. ב-1954, עזב גייבל את MGM עקב אי שביעות רצונו מהתפקידים שהוצעו לו. ב-1955, הוא הצטרף לאולפני המאה ה-20 ונישא לאשתו החמישית, קיי ספרקלס.ב-1958 שיחק בסרטחביב המורה לצידה שלדוריס דיי.ב-1960 שיחק בסרט "זה התחיל בנאפולי" לצידה שלסופיה לורן וב"יוצאי הדופן" לצידם שלמרילין מונרו,מונטגומרי קליפט ואלי וולך, על פי תסריט שלארתור מילר ובבימויו שלג'ון יוסטון.ב-6 בנובמבר 1960, מספר ימים לאחר השלמת הסרט נשלח גייבל לבית החולים בהוליווד עקבהתקף לב. בבוקר ה-16 בנובמבר, נראה כי מצבו השתפר אך לבסוף הוא נפטר באותו ערב מהתקף לב שני בגיל 59.
ב-6 בנובמבר1935 נולדה בת לשחקניתלורטה יאנג, ששיחקה עמו באחד מסרטיו ונסעה לאחר הסרט לכמה חודשים. עם שובה להוליווד הביאה עמה את התינוקת, ג'ודי, ואמרה כי אימצה אותה. רק מאוחר יותר גילתה כי התינוקת היא בתו של גייבל, וסיפרה כי ניהלה רומן עם גייבל.[2] לאחר פטירתה של ג'ודי פרסמו אחיה (בנה של יאנג) ואשתו שגייבל אנס את יאנג, ושג'ודי נולדה כתוצאה מהאונס. לורטה יאנג סיפרה זאת רק למשפחתה שחיכתה עד מותן של לורטה וג'ודי לפני פרסום הסיפור המלא.[3]
ארבעה חודשים לאחר מותו, ב-20 במרץ1961, נולד לו בן בשם ג'ון מאשתו החמישית קיי.