סיימון נולד למשפחהיהודית ממוצאהונגרי בניוארק שבניו ג'רזי, ועבר במהרה לעירניו יורק, שם גדל. הוא נקרא על שם סבו, שנולד בשם פנחס זימן ושינה את שמו לפול סיימון אחרי שהיגר מאוקראינה לארצות הברית[2].
סיימון התחיל את הקריירה המוזיקלית שלו עוד בתיכון, כאשר הוא וחברוארט גרפונקל ניגנו ביחד בבית הספר. אותו הרכב מפורסם שידוע היום בתורסיימון וגרפונקל כונה באותה תקופה "טום וג'רי".
ב-1957 הקליטו השניים את הסינגל הראשון שלהם, "Hey Schoolgirl", בחברת התקליטים הקטנה ביג. השיר זכה להצלחה יחסית והגיע למקום 49 במצעדי הפופ.
בין1957 ל-1964 עבד סיימון במשרדי ההפקה בבניין בריל, וכמו יהודים אחרים (קרול קינג,לו ריד,בילי ג'ואל) כתב והלחין שירים לפרסומות ולטקסים. באותה תקופה גם הקליט והוציא לאור יותר מ-30 שירים שאת רובם ביצע לבדו תחת שם במה, ואחרים ביצע עם מוזיקאים אחרים מלבד גרפונקל.
באמצעשנות השישים כתב סיימון שירים בשיתוף פעולה עם הלהקה האוסטרליתהמשחרים (The Seekers). בין השאר כתב באותה תקופה את שיריו "Cloudy" ו"Red Rubber Ball". הוא נסע לאנגליה שם ניגן והופיע וגם הפיק מוזיקלית את אלבומו היחיד שלג'קסון סי. פרנק.
בתחילת1964 נכנסוסיימון וגרפונקל לאודישן בחברת התקליטיםקולומביה רקורדס. ההנהלה של חברת התקליטים החליטה להחתים אותם על חוזה להפקת אלבום, והחליטה שיכונו פשוט סיימון וגרפונקל. סיימון טוען שזוהי הפעם הראשונה שמוזיקאי פופ השתמשו בשמם המקורי.
האלבום הראשון של השניים, "Wednesday morning, 3 A.M", יצא ב-19 באוקטובר1964, וכלל 12 שיריפולק, שחמישה מתוכם נכתבו בידי סיימון. בתחילת דרכו נחשב האלבום לכישלון, אך תחנות הרדיו התחילו לקבל גל גובר של בקשות להשמעת השיר "The Sound of Silence" ("צלילי השקט"). המפיק שלהם, תום וילסון, הוסיף להקלטהגיטרה חשמלית,בס חשמלי ותופים, והוציא אותו כסינגל, שהגיע למקום הראשון במצעדי הפופ שלארצות הברית. ב-1965, סיימון טס לאנגליה כדי להקליטאלבום סולו, "The Paul Simon Songbook". בהיותו בלונדון הוא הפיק אלבום שלג'קסון סי. פרנק. לאחר זמן קצר הוא חזר כדי להתאחד עםגרפונקל לאחר ההצלחה המסחרית של "The Sound of Silence". ביחד הקליטו השניים אלבומים מצליחים רבים, ביניהם "Parsley, Sage, Rosemary and Thyme" ("פטרוזיליה, מרווה, רוזמרין ותימין" – שורה מתוך השיר "יריד סקרבורו") ב-1966, "Bookends" (מחזיקי ספרים) ב-1968, ו"Bridge Over Troubled Water" ("גשר על פני מים סוערים") ב-1970[3].
השיר "Mrs. Robinson" ("גברת רובינסון") שהפך לשיר הנושא בסרטו שלמייק ניקולס, "הבוגר", נקרא במקור "Mrs. Roosevelt", ונכתב על,אלינור רוזוולט, אשתנשיא ארצות הברית לשעבר ופעילה פוליטית. כשמייק ניקולס,במאי הסרט, שמע את השיר לראשונה, הוא פקד על סיימון "מעכשיו זו גברת רובינסון".
אף שסיימון פנה לקריירת הסולו שלו כעיסוקו העיקרי אחרי הוצאת "Bridge Over Troubled Water", הוא המשיך לנגן מדי פעם עם גרפונקל. ב-1975 הוציאו השניים את הלהיט "My Little Town" ("עירי הקטנה"), אשר נכתב במקור בידי סיימון בשביל גרפונקל, אבל גרפונקל התעקש שהם ישירו אותו ביחד. ב-1977 הוציאו עםג'יימס טיילורגרסת כיסוי לשירו המפורסם שלסם קוק "What a Wonderful World" ("איזה עולם נפלא"). ב-1981 התאחדו להופעתם המפורסמת בסנטרל פארק בה נכחו 500 אלף צופים, שאחריה התכוונו להוציא אלבום משותף שלבסוף הפך לאלבום הסולו של סיימון "Hearts And Bones" ("לבבות ועצמות")[4]. עם זאת, הופעתם בסנטרל פארק הוקלטה ויצאה כאלבום הכפולThe Concert in Central Park. ב-1983 הופיעו סימון וגרפונקל לפני 50,000 צופים באצטדיון רמת גן בישראל[5]. ההרכב סיימון וגרפונקל נכנס להיכל התהילה של הרוקנרול ב-1990.
בשנת2000, השניים התאחדו שוב כשקיבלופרס גראמי על מפעל חיים. איחוד זה הביא לסיבוב הופעות בארצות הברית, בשם "Old Friends" ("חברים ותיקים"), על שם אחד השירים המוקדמים שלהם[6]. הסיבוב זכה גם להדרן ב-2004. במהלך הסיבוב השני הם הופיעו בחינם בקולוסיאום של רומא, הופעה אשר משכה יותר מ-600,000 איש[7].
האלבום המצליח של סיימון מ-1986, "Graceland". האלבום כולל שילוב מהפכני לזמנו של מוזיקה אפריקאית ומוזיקה אמריקאית פופולריתבהופעה באצטדיון רמת גן, יולי2011
לאחר הפיצול שלסיימון וגרפונקל ב-1971, חזר סיימון להקליט סולו. אלבומו "Paul Simon" מ-1972 כולל את הניסיון הראשון שלו במוזיקת עולם, עם השיר שהושפע ממוזיקהג'מייקאנית, "Mother And Child Reunion" ("פגישה מחודשת בין אם ובנה"). ב-1973 הוציא את האלבום "There Goes Rhymin' Simon" ("הנה הולך סיימון החרזן"). ב-1975 הוציא את האלבום "Still Crazy After All These Years" ("עדיין מטורף לאחר כל השנים"), שנחשב, בעיני רבים, לאחת מיצירותיו הטובות ביותר. האלבום אף זכה בפרס גראמי באלבום השנה כשנה לאחר מכן. בעשר השנים שלאחר מכן נחשב סיימון לרדום, אף על פי שעדיין נשאר ידוע בציבור בזכות מספר סינגלים מוצלחים.
ב-1985, הופיע סיימון בסינגל "We Are the World" ("אנחנו העולם"), שנועד להשיג תרומות עבור הארגון "ארצות הברית למען אפריקה". ב-1986 הוציא סיימון יחד עם הלהקה הדרום אפריקאיתLadysmith Black Mambazo את אלבומו זוכה גראמיGraceland. האלבום כלל שימוש מהפכני בקולות,קצבים, ומוזיקאיםאפריקאיים ובלט בו השיר "You Can Call Me Al"[8]. האלבום זכה בגראמי כשנה לאחר מכן. בעקבות הצלחת האלבום, סיימון ספג ביקורת על שהפר את החרם התרבותי על מדינת האפרטהייד בדרום אפריקה, לאחר ששהה במדינה לצורך הקלטת האלבום. המבקרים גינו את סיימון על כך שפגע בסולידריות של מאבק האמנים נגד המשטר הגזעני במדינה. בעקבות הביקורת החליט סיימון לתרום את כל הכנסות האלבום למען המאבק במשטר האפרטהייד[9].
בשנת1986 הופיע סיימון לצדצ'בי צ'ייס בווידאו קליפYou Can Call Me Al שזכה לשבחים רבים, והיה מהשירים המצליחים של אותה השנה כולל הווידאו קליפ של השניים, מתוך האלבום השביעי של סיימון "Graceland", כאשר צ'ייס מבצע כביכול את השיר בקליפ, בעוד סיימון אינו מוציא מילה. לימים אמר סיימון שצירף את צ'ייס בשל היותו קומיקאי, ויכולתו הקומית לבצע את הריקוד והחלפת כלי הנגינה, שהיה גם מצחיק ומיוחד, וכן בולט בקליפ היה הבדלי הגובה בין השניים שצ'ייס מתנשא ל-1.93 מטר לעומת פול סיימון שגובהו מעט מעל 1.60 מטר.
ב-1990 הוציא את אלבום ההמשך "The Rhythm Of The Saints" ("מקצב הקדושים"), שכלל שימוש במוזיקהדרום אמריקאית. שני האלבומים נחשבים לאלבומים שעזרו להביאמוזיקת עולם לעיני הציבור. ב-1991 העלה סיימון הופעה נוספת בחינם בסנטרל פארק, שכללה להקות אפריקאיות ודרום אמריקאיות, בה נכחו 750 אלף צופים. הצלחת ההופעה הפכה לאלבום ומיני-סדרת טלוויזיה זוכתפרס אמי[10].
בשנות ה-90 כתב והפיק סיימון מחזמר לברודוויי, "The Capeman", שהיה לכישלון מסחרי, עם הפסדים של יותר מ-11 מיליוןדולר בעת הרצתו ב-1998. על אף הכישלון, מוזיקת המחזמר נחשבת לאחת מעבודותיו המשובחות ביותר של סיימון.
בשנת2000 הוציא סיימון את אלבומו "You're The One" ("את האחת"), שעל אף שזכה להצלחה מסחרית מוגבלת, נחשב בעיני רבים ממבקריו ומעריציו כהצלחה אומנותית. האלבום "Surprise" ("הפתעה"), שהופק על ידו בשיתוף עם בראין אינו, יצא במאי2006. כשנשאל על ההשראות שגרמו לו לכתוב את האלבום, הזכיר אתאירועי ה-11 בספטמבר2001 ואת הגיעו לגיל 60.
בשנת2011 יצא אלבום הסולו ה-11 במספר של סיימון - "So Beautiful or So What". על אלבום זה אמר סיימון שזוהי "עבודתו הטובה ביותר בעשרים השנה האחרונות". בעקבות יציאת האלבום יצא סימון לסיבוב הופעות ברחבי ארצות הברית, אירופה וישראל, שבה הופיע בפעם השלישית[11].
ב-3 ביוני2016 הוציא סיימון את אלבום הסולו ה-12 במספר - "Stranger to Stranger". שלושה משירי האלבום הוקלטו בשיתוף האמן האיטלקיClap! Clap![12].
ב-5 בפברואר2018 הודיע סיימון כי ייצא לסיבוב הופעות אחרון, ולאחריו יפרוש מהופעות, מפני שרוצה להקדיש יותר זמן למשפחתו[13]. סיבוב הופעות האחרון שלו הסתיים בספטמבר אותה שנה[14]. בספטמבר2018 יצא לאור האלבוםIn the Blue Light ובו עיבודים חדשים לשירים מאלבומים קודמים.
באפריל2021, מכר את הזכויות על הקלטות שיריו לחברתסוני מיוזיק אנטרטיינמנט, תמורת 500 מיליון דולר. לאחר המכירה חברת "סוני מיוזיק" החלה לקבל את התמלוגים עבור השמעות של שיריו באמצעי התקשורת ושירותיסטרימינג[15].
ב-2023 יצא לאוראלבום הקונספטSeven Psalms שכולל שבעה שירים שנועדו להשמעה אחת רציפה. במאי 2023 חשף סיימון כי איבד את השמיעה באוזנו השמאלית.[16]כמו כן ב-2023 יצא סרט דוקומנטרי על פול סימון בשני חלקים שנקרא "פול סיימון-In Restless Dreams" שמשודר ביס דוקו.
בפברואר 2025 סיימון הודיע כי יחזור להופיע בסיבוב הופעות חי ב-2025 לאחר שפרש מהופעות חיות בשנת 2018. סיבוב ההופעות ייקראQuiet Celebration Tour וייערך באולמות תיאטרון ואולמות קונצרטים בגודל בינוני, יחל ב-4 באפריל בניו אורלינס ויסתיים ב-3 באוגוסט בסיאטל. ההופעות יתמקדו באלבומו האחרוןSeven Psalms, אך יכללו גם שירים אחרים מהרפרטואר הרחב שלו ויכלול 50 הופעות ב-20 ערים שונות.[17]
סיימון התנסה גם במשחק. הוא שיחק בסרט "הרומן שלי עם אנני" שלוודי אלן ב-1977. הוא כתב וכיכב ב-"One Trick Pony" ("פוני של טריק אחד") בשנות ה-80, סרט על נוודרוק אנד רול. סיימון הופיע בסדרה "החבובות", וב"סאטרדיי נייט לייב" כמה פעמים, שם גילם את עצמו ב-1986. במערכון הוא עומד בתור לסרט, מדהים את חברו בזיכרונו המופתי ומספק פרטי-פרטים על כל מי שאי-פעם הכיר - אך כשמגיע ארט גרפונקל, הוא כלל אינו מזהה אותו. ביום הולדתו ה-77, 13 באוקטובר2018, התארח ב"סאטרדיי נייט לייב" וביצע בה שני שירים בעיבודים תזמורתיים.
סיימון התחתן שלוש פעמים. הוא התחתן עם פגי הרפר בסתיו1969 וב-1972 נולד להם בן, הרפר סיימון.בני הזוג התגרשו ב-1975. ב-1983 התחתן סיימון עם השחקניתקארי פישר והתגרשו לאחר 11 חודשים בלבד. שנה לאחר שהתגרשו, סיימון ופישר חידשו את מערכת היחסים שלהם, שנמשכה עוד כמה שנים[18]. ב-1992 התחתן עם אשתו הנוכחית, הזמרתאידי בריקל. בנם אדריאן נולד ב-1992, בתם לולו נולדה בשנת 1995, והבן גבריאל – ב-1998.