Grupę įkūrė gitaristas Michael Ammott,1993 metais išėjęs iš grupėsCarcass ir surinkęs atlikėjus Arch Enemy grupei. Pirmasis albumas „Black Earth“ pasirodė tik 1996 metais. Grupei išpopuliarėti padėjo ir tai, kad Michael Ammott buvo žinomas gitaristas, prieš tai grojęs grupėse Carcass, Carnage, ir Spiritual Beggars. Nors grupę sudarė gitaristas Michael, brolis Christopher, vokalistas Johan Liiva ir laikinai priimtas būgnininkas Daniel Erlandsson, tačiau visos dainos pirmame albume buvo parašytos Michael. Grupė labiausiai išpopuliarėjo Švedijoje irJaponijoje.1998 metais grupė išleido antrąjį savo albumą, pavadinimu „Stigmata“, taip pat prie grupės prisidėjo bosistas Martin Bengtsson. Būgininką pakeitė kitas būgininkas Peter Wildoer, tačiau po metų grupė susigrąžino būgnininką Daniel Erlandsson, kuris grupėje groja iki šiol. Bosistą Martin pakeitė naujas bosistas Sharlee D’Angelo. Tais pačiais1999 metais išeina ir trečiasis Arch Enemy albumas, pavadinimu „Burning Bridges“.2000 metais Michael išmetė vokalistą John Liiva, argumentuodamas tokį savo žingsnį planais priimti į grupę vokalsitę moterį. Po atrankos Michael išsirinkoAngela Gossow naująja grupės vokaliste. Pirmasis albumas su Angela buvo „Wages of Sin“.2002 metais pasirodė pirmasis Arch Enemy grupėsEP „ Burning Angel“.
2003 metais pasirodė naujas ir iki šiol vienas sėkmingiausių Arch Enemy albumas, pavadinimu „Anthems of Rebellion“, kitais metais pasirodė ir antrasis grupės EP „Dead Eyes See No Future“.2005 metais po albumo „Doomsday Machine“, Christopher Ammott laikinai išėjo iš grupės dėl asmeninių problemų. Jį pakeitė laikinai priimtas gitaristas Gus G, kurį vos po kelių mėnesių pakeitė gitaristu Fredrik Åkesson. Christopher grįžo tik po dvejų metų.2007 metais pasirodė trečiasis EP „Revolution Begins“ ir septintasis albumas „Rise of the Tyrant“, tais pačiais metais grupė sudalyvavo dideliame sunkiosios muzikos festivalyje „Bloodstock Open Air“ ir prisidėjo prie turo „Black Crusade“, kartu su grupėmisMachine Head,Trivium,DragonForce irShadows Fall.2009 metais pasirodė iki šiol paskutinis Arch Enemy albumas „The Root of All Evil“, kuriame Angela perdainuoja kai kurias populiariausias dainas iš pirmųjų trijų albumų, kuriuose vokalą atliko John Liiva.