Dirty Three est formé comme groupe de rock instrumental à Melbourne en 1992 avec Warren Ellis au violon et à la basse (ex-These Future Kings en 1986), Mick Turneraux guitares (Sick Things, The Moodists, Venom P. Stinger, Fungus Brains), et Jim White à la batterie (People with Chairs Up Their Noses, Feral Dinosaurs, Venom P. Stinger)[3],[4]. Avant la formation de Dirty Three, Ellis étudiait le violon, et travaillait brièvement comme enseignant à Victoria[5],[6]. Ellis était aussi membre du groupe The Blackeyed Susans, Busload of Faith, Kim Salmon and the Surrealists et membre de Nick Cave and the Bad Seeds depuis 1994[5],[7]. Turner et White partagent le même intérêt musical et ont collaboré avec d'autres groupes entre les années 1980 et 1990[8],[9].
Pendant le ANZAC Day () 1992, Dirty Three joue son premier concert au Baker's Arms Hotel, de Richmond[5]. Ici, Ellis parvient à rendre à son violon un son distordu à l'aide d'un morceau de ruban adhésif[10],[11]. En 1992, ils enregistrent une cassette audio de douze titres dans la chambre de Turner (aka Scuzz Studio)[12]. Dirty Three jouera à Abbotsford, puis à Fitzroy, Richmond (Melbourne), et St. Kilda[13]. En 1993, des exemplaires de la cassette Dirty Three sont distribuées à plusieurs concerts[12]. En 1994, ils jouent en soutien à des groupes de renommée internationale comme Pavement, Beastie Boys et John Spencer Blues Explosion[3]. En juillet la même année, Torn and Frayed Records publie l'album éponyme du groupe[3],[4].
En , l'album qui suit, Sad and Dangerous, est publié au label Poon Village, et comprend des chansons issues de leur première cassette[3],[12]. L'album, et ses tournées qui suivent avec Sonic Youth, John Cale, et Pavement, mènent à un contrat avec le label de ChicagoTouch and Go Records. En , le groupe commence sa tournée américaine avec un premier concert à San Francisco. En mai, ils jouent au Music West Festival de Vancouver, en Colombie britannique, au Canada[14]. Cette même année, ils tournent aux États-Unis, puis en Europe, notamment en Grèce, en Allemagne et au Royaume-Uni. Ils jouent en Israël avec Nick Cave and the Bad Seeds, puis reviennent à Londres en août, où ils jouent avec Cave[3],[5]
Ils jouent au Big Day Out de janvier 1996, et sont rejoints par Cave[3]. Plus tard en 1996, ils jouent de nouveaux aux États-Unis ; l'un de leurs concerts se fait au Maxwell's, dans le New Jersey[15]. En septembre la même année sort l'album, Horse Stories, qui cité par le magazine Rolling Stone comme l'un des trois meilleurs albums de l'année[3]. En , le groupe publie Ocean Songs[16]. Il atteint le top 50 de l'ARIA Albums Chart[17]. Le groupe fournira cinq nouvelles chansons pour le film Praise (1998) de John Curran[3].
En mars 2000, Dirty Three publie l'album Whatever You Love, You Are[3]. En 2002, Dirty Three tourne à Taïwan avec le groupe de rock indépendant Chan Marshall (Cat Power) et refont de même en 2004[12],[18]. Aussi en 2004, ils jouent au Meredith Music Festival tandis qu'une tempête menaçait leur performance[10]. À la fin 2005, Dirty Three publie son septième album chez une major, Cinder.
En 2006, ils jouent en Malaisie[19], à Hong Kong, en Chine et à Taïwan[20],[21]. En mai 2007, le groupe passe un weekend au festival All Tomorrow's Parties. En novembre, ils publient le coffret DVD deux disques The Dirty Three ; le premier disque comprend un concert à Tokyo, au Japon, tourné par Taiyo Films, et le second comprend plusieurs concerts tournés entre 1994 et 2006, un documentaire et des interviews[20]. En février 2012 sort Toward the Low Sun, et en mars, le groupe joue au Sydney Opera House[22]. L'album atteint le top 40 de l'ARIA Albums Chart et le top 50 des Billboard's Top Heatseekers[17],[23].