Soundgarden perustettiin vuonna 1984. Tuolloin Chris Cornell soitti rumpuja ja lauloi, Hiro Yamamoto soitti bassoa ja Kim Thayil kitaraa. MyöhemminScott Sundquist tuli rumpaliksi, jolloin Chris pystyi keskittymään yhtyeeseen laulajana. Vuonna 1986 Scott lähti yhtyeestä ja hänen tilalleen tuliMatt Cameron.
Yhtye julkaisi ensimmäisen albuminsaUltramega OK vuonna 1988 ja sai silläGrammy-ehdokkuuden. Vuonna 1989 julkaistiin yhtyeen toinen albumiLouder Than Love. Yamamoto lähti yhtyeestä jaJason Everman tuli hänen tilalleen. Vielä saman vuoden aikana basisti vaihtui taasBen Shepherdiksi.
Yhtyeen kolmas albumiBadmotorfinger julkaistiin 1991. Kappaleet "Rusty Cage" ja "Outshined" saivat suosiota grunge-aallon myötä, ja albumeja myytiin yli miljoona.[1]
Varsinainen läpimurtolevy oli vuonna 1994 julkaistuSuperunknown. Albumin suuri hitti "Black Hole Sun" on luultavasti yhtyeen tunnetuin kappale. Muita hittejä olivat "Spoonman" ja "The Day I Tried to Live". Levyllä korostuivat voimakkaatpsykedeelisen rockin vaikutteet.
Vuonna 1996 yhtye julkaisi viidennen albuminsaDown on the Upside, joka oli aikaisempia albumeita kevyempi. Tästä muun muassa kitaristiKim Thayil ei pitänyt. Samalla yhtyeen jäsenten turhautuminen alkoi ilmentyä. Albumin promokiertue päättyi seuraavan vuoden helmikuussa, kun basisti Shepherd heitti bassonsa ilmaan turhautuneena laitevian takia ja lähti pois lavalta.
Soundgarden hajosi vuoden 1997 huhtikuussa ja saman vuoden aikana julkaistiin kokoelmaA-Sides. Yhtyeen keulahahmoChris Cornell aloitti soolouran ja siirtyi sittemminAudioslave-yhtyeeseen.Matt Cameron siirtyiPearl Jamin rumpaliksi.
Cornell ilmoitti vuoden 2010 ensimmäisinä päivinä Facebook- ja Twitter-sivuillaan Soundgardenin palaavan lavoille. He esiintyivätkinLollapaloozassa elokuussa 2010 ja julkaisivat uuden kokoelma-albuminsaTelephantasmin syyskuussa 2010 ja uuden albuminsaKing Animal marraskuussa 2012.
Marraskuussa 2014 Soundgarden julkaisi kolmilevyisen kokoelmanEcho of Miles: Scattered Tracks Across the Path, joka sisälsi useita aiemmin julkaisemattomia kappaleita, aiempien singlelevyjen B-puolia, uudelleenmiksattuja kappaleita ja yhtyeen tekemiä covereita.[2] Kim Thayil myös puhui yhtyeen aikeista aloittaa uuden levyn tekeminen vuoden 2015 aikana.[3]
Yhtyeen laulaja Chris Cornell kuoli äkillisesti 18. toukokuuta 2017 muutama tunti yhtyeenDetroitin konsertin jälkeen.[4] Hän surmasi itsensä konsertin jälkeen hotellin kylpyhuoneessa.[5]