Il club fu fondato nel1909 con il nome diStade Mosellan. L'attuale nome fu adottato dieci anni dopo, nel1919. Durante l'occupazionenazista nellaseconda guerra mondiale, il club fu rinominatoFK Grevenmacher, come risultato della politica digermanizzazione portata avanti dalGauleiterGustav Simon. Solo in seguito alla liberazione del Lussemburgo nel1944, il club tornò a chiamarsiCS Grevenmacher. La stagione 1949-1950 fu la prima che vide il Grevenmacher nellamassima divisione lussemburghese. Nella stagione successiva la squadra arrivò anche a giocare la finale dellacoppa nazionale, pareggiando il match contro ilTétange, ma perdendo ilreplay.
Glianni novanta furono indubbiamente il periodo chiave per il Grevenmacher che, pur vincendo poco, conquistò diversi secondi posti nel campionato nazionale, il primo dei quali nel 1993-1994, ottenendo così il diritto a partecipare per la prima volta nella sua storia allaCoppa UEFA. La prima vittoria in una competizione ufficiale non tardò ad arrivare: nel 1994-1995 il Grevenmacher vinse infatti la sua prima coppa nazionale, sconfiggendo loJeunesse Esch, grazie all'1-1 all'andata e alla vittoria 3-2 al ritorno, bissando poi il successo nel 1997-1998.
A partire dalla stagione 1992-1993 la squadra ha concluso nella parte destra della classifica soltanto una volta, arrivando seconda ben 7 volte. La prima vittoria in campionato arrivò finalmente nel 2002-2003, ottenendo così il diritto di partecipare per la prima volta allaUEFA Champions League. Nello stesso anno vinse anche la coppa nazionale, per la terza volta nella sua storia.
NellaCoppa UEFA 2000-2001 il Grevenmacher fu sconfitto all'andata nel primo turno di qualificazione dellaCoppa UEFA per 4-1 daifinlandesi dell'HJK Helsinki. Per il match di ritorno sarebbe servita una vittoria per 3-0, ma i lussemburghesi si fermarono sul 2-0, vincendo la gara ma venendo eliminati dalla manifestazione.
NellaCoppa UEFA 2002-2003 la storia si ripeté. Questa volta i rivali erano iciprioti dell'Anorthōsis che seppellirono con un sonoro 3-0 il Grevenmacher, in terra di Cipro. Nella partita di ritorno i lussemburghesi vinsero, come due anni prima 2-0, venendo eliminati.