Klubben har en stark förankring i hemstaden och är präglad avRuhrområdet. Ärkerivalen sedan lång tid tillbaka ärBorussia Dortmund.
Schalke 04, som grundades1904, är en klassisk klubb iBundesliga. Klubben har i början av 2020-talet varvat mästerskap med nedflyttningar. Klubben åkte ur Bundesliga säsongen 2020/2021 men lyckades efter bara en säsong i andra-divisionen att i maj 2022 återigen kvalificera sig för spel i Bundesliga 2022/2023. Ett år senare flyttades laget ner igen och kom 23/24 på en mittenplacering i Bundesliga 2.
Den 4 maj 1904 samlades några unga män i gruvstaden Gelsenkirchen för att bilda en formell fotbollsklubb. Den fick namnet Westfalia Schalke efter arbetarstadsdelen de bodde i. Det tyska fotbollsförbundet ville emellertid inte ha några gruvarbetare i sitt förbund så den nya klubben vägrades inträde i det seriösa ligasystemet. Lösning blev att infoga sig som en sektion för fotboll i en annan sportklubb, Turnverein 1877, men åren gick och 1924 var tiden inne att lämna Turnverein för att återuppstå som FC Schalke 04. 1928 lades stadsnamnet Gelsenkirchen till i klubbnamnet som tack för att staden hjälpt till ekonomiskt när klubbens första egna stadion, Glückauf-Kampfbahn, byggdes.
Klubbens första storhetsperiod kom under 1930-talet med sex mästerskapstitlar 1934-1942. Man var även i final 1933, 1938 och 1941. 1938 förlorade man efter omspel med 3-4 mot sensationslagetHannover 96. 1937 blev man även tyska cupmästare. Laget blev känt för sitt kortpassningsspel, "Schalker Kreisel", medErnst Kuzorra ochFritz Szepan som de största spelarna. Fritz Szepan var nyckelspelare när Tyskland vid sitt första VM-slutspel tog brons 1934.
Under 1970-talet var man återigen ett av topplagen i Bundesliga med två andraplaceringar som bästa resultat. Man vann även den tyska cupen1972. Den stora profilen på 1970-talet var skyttekungenKlaus Fischer. Schalke 04:s anseende svärtades enormt då ett stort antal spelare, bland dem Fischer, var inblandade i mutorna för att göra läggmatcher (Bundesligaskandalen).
Under 1980-talet åkte laget upp och ner mellan Bundesliga och 2. Bundesliga. Man hade ingen ordning i klubben och det gav flera comebacker av gamla Schalke-spelare, där de flesta passerat "bäst före-datum". Schalke lyckades dock få fram en av sina största spelare närOlaf Thon kom fram i klubbens ungdomsled.
Under 1990-talet fick man ordning på föreningen och kunde fira nya framgångar: Schalke vannUefacupen1997 med profiler somJens Lehmann,Olaf Thon,Thomas Linke med flera. I finalen slog man det italienska storlagetInter.2001 och2002 vann man tyska cupen för första gången sedan 1972. Klubben har satsat stort med bl.a. byggandet av en ny modern fotbollsarena iVeltins-Arena. Klubben och managernRudi Assauer siktar högt och villa utmana rivalenFC Bayern München. De stora satsningarna har ansträngt klubbens ekonomi men också gett framgångar. 2001 och 2005 kom man tvåa i Bundesliga - efter Bayern München. 2001 "förlorade" man guldet i slutsekunderna av sista omgången sedan Bayern München genomPatrik Andersson kvitterat motHamburger SV på övertid.
InförBundesliga 2004/2005 storsatsade klubben genom dyra köp av bland annatLincoln (FC Kaiserslautern),Ailton (Werder Bremen) ochMarcelo Bordon (VfB Stuttgart). På ledarsidan hade man engagerat den meriteradeJupp Heynckes (bl.a. Champions League-segrare medReal Madrid). Men säsongsstarten var usel och Heynckes avgick. Istället engageradesRalf Rangnick och plötsligt vände allt för Schalke som ångade framåt i tabellen och länge såg ut att bli den stora utmanaren tillFC Bayern München. Man slog Bayern hemma under våren2005 men sedan följde en genomklappning och klubben kunde aldrig komma tillbaka för att slåss om guldet. En andraplats och spel i Champions League blev plåster på såren. Nya satsningar inför säsongen 2005-2006 blev värvningar av de tyska landslagsspelarnaKevin Kuranyi ochFabian Ernst och av den danska landslagsanfallarenSøren Larsen, som före juli 2005 spelade iDjurgårdens IF.
FC Schalke 04 har en stor fanskara över hela Tyskland och är i toppen av publikligan i Bundesliga. FC Schalke har en stark anknytning till hemstaden Gelsenkirchen och klubben är mer känd än själva staden. En rivalitet råder sedan decennier mellan de två storlagen i Ruhrområdet, det vill säga Schalke ochBorussia Dortmund. Derbyn mellan lagen tillhör de största i Europa. Schalke-fans har inte heller mycket till övers för Bayern München, något motsägelsefullt är därför att en av Schalkes största spelare genom tiderna, Olaf Thon, under sex år spelade för Bayern - hans popularitet är fortsatt mycket stor hos Schalkefansen sedan han gjorde comeback och var med om Uefacupsegern 1997. Fansen har däremot vänskapsband med1. FC Nürnbergs och medFC Twentes fans.