Det sies[av hvem?] at Buckleys stemmeregister spente over minst fire oktaver.[9] Han spilte flere typer musikk. Felles for låtene er at vokalen stod i fokus og at melodilinjene kom klart frem. Han var en «singer/songwriter» og fremførte også coverversjoner av andres stoff. Buckley høstet stor popularitet i Frankrike, Australia og Storbritannia.
Han startet karrieren som soloartist og holdt en rekke konserter i små kaféer rundt omkring i California. Gary Lucas overtalte ham til å danne en duo og flytte til New York, hvor han bodde mesteparten av sitt voksne liv. Senere har opptak av deres arbeid kommet ut på albumet Songs to No One 1991–1992.
I New York møtte Buckley sine endelige bandmedlemmer: Mick Grøndahl (bass), Michael Tighe (gitar) og Matt Johnson (trommer). De spilte i 1994 inn albumet Grace, som høstet gode kritikker verden rundt. På dette albumet finnes blant andre tittellåten «Grace» og hans kanskje mest kjente innspilling, «Hallelujah», en coverversjon av Leonard Cohens sang. Etter at platen var utgitt, turnerte Buckley en hel del, både som soloartist og med band.
I 1997 skulle bandet spille inn albumet My Sweetheart the Drunk. Buckley hadde flyttet til Memphis i den anledning, og bandet skulle komme når han hadde gjort ferdig låtmaterialet. Imidlertid druknet han i Wolf River dagen bandet skulle komme til Memphis. Det ble fastslått at dødsårsaken var en ulykke, og han hadde ikke spor av illegale stoffer i blodet da han druknet.[8] Det tilgjengelige materialet kom senere ut på Sketches for My Sweetheart the Drunk, som navnet påpeker er skisser.
Etter Jeff Buckleys død har det kommet ut flere livealbum, en live-DVD og annet materiale.