Bandets historia sträcker sig bakåt i tiden till oktober 2000, då Rage Against the Machine upphörde efter att sångaren Zack de la Rocha lämnat bandet. De tre övriga medlemmarna höll ihop och fortsatte att spela som en trio under namnet "Rage", något som de la Rocha var missnöjd med. Han ansåg att namnet endast skulle användas för vad de alla hade skapat tillsammans. Det var även han som kommit på namnet då han var medlem i bandet Inside Out. Flera sångare jammade med bandet inklusive B-Real från Cypress Hill och Manyard James Keenan från Tool. Producenten Rick Rubin föreslog senare att de skulle jamma med Chris Cornell för att "se vad som händer". Det hela fungerade perfekt, och man började spela in i studion i maj 2001 då man skrev 21 låtar på 19 dagar.
Den 22 januari 2007 uppgav Rage Against the Machine att de skulle återförenas för en uppvisning på Coachella Valley Music and Arts Festival, en musik- och konstfestival i Kalifornien, USA. Mindre än en månad senare, den 15 februari 2007, tillkännagav Cornell att han skulle lämna Audioslave för gott. Övriga tre medlemmar var upptagna med återföreningen av Rage Against the Machine, och Audioslave löstes officiellt upp. Gruppen hade då sålt mer än åtta miljoner skivor och blivit nominerade till tre Grammisar.
I början av 2010 meddelande Cornell att Soundgarden skulle återförenas, och sedan dess har han varit sångare i det bandet.
Audioslave återförenades i januari 2017. Bandet deltog i Prophets of Rage's "Anti Inaugural Ball" med anledning av installationen av USA:s president Donald Trump.