Ta alustas oma muusikukarjääri koos oma vanema venna Duane'iga 1960. aastatel. 1969. aastal asutasid nad ansambli The Allman Brothers Band, mis ühendas roki, bluusi, džässi ja kantrimuusika elemente. Gregg täitis ansamblis solisti ja klahvpillimängija rolli.[1] Ansambel saavutas suuremat edu 1971. aastal kontsertalbumiga "At Fillmore East". Mõni aeg hiljem hukkus Duane mootorrattaõnnetuses. Pärast Duane'i surma võtsid Gregg ja kitarrist Dickey Betts ansambli juhtimise enda kätte. 1973. aastal ilmunud album "Brothers and Sisters" oli müügitulu poolest ansambli kõige edukam. Ansambel tegutses mõningaste pausidega kuni 2014. aastani.[2] Allman kirjutas ansambli osa tuntumad laulud, milleks olid muuhulgas "Whipping Post", "Melissa" ja "Midnight Rider". Ansamblil oli võtmeroll 1970. aastate southern rock 'i väljakujunemisel.[3]
1973. aastal alustas Allmann soolokarjääri, andes välja sooloalbumi "Laid Back". 1987. aastal tõusis ootamatul hitiks tema laul "I'm No Angel". Tema seitsmes stuudioalbum "Low Country Blues" (2011) jõudis USA plaadi müügiedetabelis Billboard 200 viiendale kohale, mis märkis tema albumite kõrgemat kohta.
Allman mängis Hammondi orelit ja kitarri ning ta oli tuntud oma tundeküllase hääle poolest. Tänu oma muusikalisele tööle nimetati teda southern rock 'i pioneeriks. 1995. aastal võeti ta The Allman Brothers Bandi liikmena vastu Rock'n'rolli Kuulsuste Halli. 2006. aastal võeti ta sooloartistina Georgia Music Hall of Fame'i liikmeks. Ajakiri Rolling Stone on ta valinud kõigi aegade parimate lauljate seas 70. kohale.[4]
Läbi kogu oma elu kannatas Allman alkoholi- ja narkosõltuvuse käes. 2012. aastal andis ta välja autobiograafia "My Cross to Bear".
Allman oli abielus kokku seitse korda ja tal oli viis last. Aastatel 1975–1979 oli ta abielus laulja Cheriga.
Oma lõpu poole oli tal probleeme tervisega. Allman suri 2017. aasta 27. mail 69-aastaselt maksavähki.[2]
