ב-1085 נפטר האפיפיור ובמקומו נבחרויקטור השלישי שלפני מותו ב-1087 הציע לקרדינלים כיורשו את אודו דה לאז'רי. הוא נבחר לאפיפיור ב-12 במרץ1088 ואימץ לעצמו את השם אורבנוס השני.
כבר בתחילת כהונתו התייצב מולו גיברט מרוונה שהתמנה לאנטי אפיפיור בשםקלמנס השלישי(אנ') על ידי היינריך הרביעי. אורבנוס השני גייס לעזרתו את מועצות הכנסייה שהתקיימו ברומא, באמאלפי (1089), בבנוונטו, בפיאצ'נצה ובקלרמון (1095), שתמכו בעמדתו נגד הקיסר ונגד האנטי אפיפיור.במועצות אלה אושרו מחדש הרפורמות של האפיפיור גרגוריוס השביעי שכללו איסורים על מינוי קרובי משפחה ועל הכתרת חילונים לתפקידים דתיים, עלסימוניה (מכירת משרות הכנסייה) ועלניקולאיזם (נישואי כמרים).
במועצת הכנסייה שהתקיימה בפיאצ'נצה שבאיטליה במרץ 1095 קיבל אורבנוס השני את שליחו שלאלכסיוס הראשון, קיסרהאימפריה הביזנטית, שביקש את עזרת האפיפיור נגד הסלג'וקים שבמאה האחת עשרה כבשו אתמסופוטמיה, אתאסיה הקטנה, אתסוריה, ואתארץ ישראל ואיימו עלקונסטנטינופול. היה זה הרקע שהבשילו עליו התנאים שהובילו למסע הצלב הראשון. ב-27 בנובמבר של אותה שנה במועצת קלרמון (כיוםקלרמון-פראן שבחבלאוברן בצרפת) האפיפיור אורבנוס השני נשא דרשה בצרפתית שבה קרא לכל המאמינים, אבירים וצמיתים כאחד, לשחרר אתארץ הקודש ואתהקבר הקדוש בירושלים מידי הסלג'וקים, הנאום המקורי לא נשמר, יש מספר גרסאות לנאום, שהועלו על הכתב על ידי מחברים שונים, הגרסאות דומות בתוכנן ובעיקר בקטע המרכזי שהוא הקריאה לצאת למסע:
הו אתם גזע הפרנקים, הגזע האהוב על אלוהים והנבחר על ידו... מירושלים ומקונסטנטינופול הגיעו שמועות כי גזע מקולל שאינו מכיר באלוהים פלש לארצם של הנוצרים, העלה אותה באש וערך בהם טבח...על מי מוטלת חובת הנקם ומי יכבוש מידיהם את ארצכם אם לא אתם, אתם שעליכם הטיל האל את המשימה עטורת התהילה להכניע את אויביכם? קחו על עצמכם משימה זו שדבר לא יעצור בעדכם מלבצע, וכיפרתם על חטאיכם וזכיתם לתהילת עולם בממלכת השמים.
והקהל הרב הגיב בקריאות "זהו רצון האל". אורבנוס השני נקט בצעדים כדי להקל על המאמינים להשתחרר מחובותיהם ולהתגייס למסע הצלב. בין היתר, הוא שחרר את האבירים ואת הצמיתים משבועת האמונים הפיאודלית למשך תקופת המלחמה. הוא ערך מסע נרחב במערב ודרום מערב צרפת, ובמשך תשעה חודשים נשא נאומים חוצבי להבות בזכות רעיון מסע הצלב. כאשר הגיע לרומא לאחר שנעדר ממנה במשך שנתיים, התקבל בתשואות רמות על ידי תושביה.