I Gov't Mule si sono esibiti in molti festival musicali di livello internazionale, vantando spesso nella formazione membri di altri gruppi funk rock e blues famosi.
Il gruppo degli Allmann Brothers Band, nel 1989 subì una "riformazione", e ne entrarono a far parte Warren Haynes come chitarra solista e Allen Woody al basso. I due condividevano l'amore per i gruppi "trio" degli anni sessanta (gruppi rock principalmente composti da chitarra elettrica basso e batteria) come i Cream, James Gang, i The Jimi Hendrix Experience e simili[2]. Warren e Allen assoldarono il batterista Matt Abts e formarono il gruppo Gov't Mule, suonando principalmente durante le pause degli Allmann Brothers Band.
Hanno pubblicato il loro album di debutto "Gov't Mule" nel 1995, cui ha fatto seguito "Live from Roseland Ballroom", uscito nel 1996.
Nel 1997 Warren e Allen riuscirono a lavorare a tempo pieno al loro gruppo, e nel 1998 uscì il loro secondo album in studio, "Dose"
A fine 98 i "Mule" organizzarono un concerto di capodanno a cui presero parte artisti di diversi gruppi, Allmann Brothers band, Black Crowes, Parliament/Funkadelic. Dal concerto venne prodotto un cofanetto contenente 4 cd con la registrazione integrale dello spettacolo dal titolo: "Live... With a Little Help from Our Friends".
2000 - 2003
Il gruppo originale. da sinistra a destra: Haynes, Abts e Woody
Nel febbraio del 2000, la band registrò "Life Before Insanity", oltre al plauso della critica,[3] la band ebbe un buon successo commerciale con questo album.
Ad agosto dello stesso anno, Allen Woody fu trovato morto in una stanza di hotel a New York.[4]
Il 21 settembre 2000 fu organizzato un concerto di beneficenza chiamato "One for Woody"[5] il cui ricavato è stato destinato alla famiglia di Woody. Gli Allman Brothers, i The Black Crowes, Phil Lesh and Friends, Jimmy Herring, Edwin McCain e molti altri si esibirono al concerto.
In quell'anno Haynes e Abts si limitarono a poche apparizioni più che altro come "supporter" ad altri gruppi come "Ben Harper & The Innocent criminals" omaggiando durante le apparizioni l'amico scomparso.
Il loro successivo tour è stato chiamato "Smile at Half Mast Tour" in riferimento ad un poema scritto da Haynes per il funerale di Woody.
Il primo album registrato con i nuovi membri Louis e Hess, Deja Voodoo, è stato lanciato nel settembre 2004, e con il materiale restante dalle sessioni di registrazione, nel 2005 venne pubblicato Mò Voodoo.
Un nuovo album con la band al completo, High & Mighty, è stato pubblicato il 22 agosto 2006, e fu seguito nel 2007 da un album reggae, Mighty High, che comprende brani originali e versioni di cover celebri. Nell'album appaiono artisti come Michael Franti, Toots Hibbert, e Willi Williams.
I Gov't Mule continuano a produrre tour estensivi in tutti gli Stati Uniti, partecipando tra l'altro a numerosi festival musicali tra cui Bonnaroo Music Festival, All Good Music festival e tanti altri. Parteciparono anche all'annuale New Orleans Jazzfest night show (dove hanno filmato e registrato l'ultimo spettacolo del Deepest End Tour, con 17 musicisti ospiti in uno show di sei ore).
Il 28 giugno 2008, I Gov't Mule si esibirono come "trio" per la prima volta dal 2000, per la mancanza nel gruppo del bassista Andy Hess.
Il 15 settembre 2008, la moglie di Haynes, Stefani Scamardo, ha annunciato al suo radio show "Sirius",[10] che Andy Hess avrebbe lasciato la band e un nuovo bassista sarebbe entrato nel gruppo per il tour autunnale. Hess è stato sostituito dal bassista Jorgen Carlsson
2009
Il 17 agosto 2009, è stato annunciato dal sito ufficiale della band l'uscita dell'ottavo album By a Thread[11] in programma per la pubblicazione il 27 ottobre 2009.[12]
Nella stessa data, la prima canzone del nuovo album, intitolata "Broke Down On The Brazos"(con Billy Gibbons degli ZZ Top), è stata resa disponibile per l'ascolto sul sito web del gruppo.[13]
Il 31 ottobre 2009, i Gov't Mule hanno tenuto un concerto di Halloween al Tower Theater di Philadelphia.
Il Concerto è stato caratterizzato da una prima parte che durò più di due ore, ed è stato interamente composto da canzoni dei Rolling Stones.
2010
Nel gennaio 2010, i Gov't Mule suonarono all'"Island Exodus" a Negril, in Giamaica, presso l'inclusive resort The Grand Lido Negril. Il gruppo suonò prima come trio poi con un assolo di Warren Haynes. A questo evento sono stati presenti Grace Potter & The Nocturnals, Ron Holloway, e DJ Logic.[14]