De første beboere byggede ikke byen lige ved flodbredden, men på et højere sted ved en bæk mod nord. Byen fik stadsrettigheder13. juli1233 afgrevOtto II af Gelre. I det13. århundrede havde Arnhem mellem 2.000 og 3.000 indbyggere[kilde mangler], der alle boede inden forbymuren, som i løbet af det16. århundrede tre gange blev udvidet og forstærket. I det19. århundrede blev bymuren revet ned. Kun en port minder endnu om dens eksistens,Sabelspoort.
Arnhem blev Gelres, som Gelderland dengang hed, hovedstad i1579, da provinsen tilsluttede sigUtrechtunionen. I1585 tilsluttede Arnhem og provinsen Gelre sig republikkenDe Syv Forenede Nederlande.
Under 2. verdenskrig led byen en tung skæbne, da den lå ved frontlinjen i september1944 underOperation Market Garden. UnderSlaget ved Arnhem blev den indre by nærmest fuldstændig ødelagt. Indbyggerne måtte efter slaget forlade byen, datyskerne afspærrede den helt. Indbyggerne blev spredt for alle vinde og fik først lov til at vende tilbage et godt stykke efter befrielsen i maj1945.
Da Arnhem i den grad blev ødelagt under krigen, var det nødvendigt at iværksætte et omfattende genopbygningsarbejde efter krigen. Også i dag findes der en travl bygge- og udvidelsesaktivitet. I 2015 blev således den nye bus- ogtogstationArnhem Centraal åbnet. Arnhem er bortset fra det den eneste by i Nederlandene hvor der findes et trolleybusnet.
Byen lever afindustri og tjenesteydelser, tillige med, at byen er et vigtigt administrativt center.