Welch wuchs in Los Angeles auf, wohin sie mit ihren Adoptiveltern, die als Komponisten für Fernsehproduktionen in Hollywood arbeiteten, im Alter von vier Jahren gezogen war. Mit sieben Jahren begann sie Gitarre zu spielen. Sie bekam einen Studienplatz an der Princeton University, aber schrieb sich dann an der University of California, Santa Cruz ein. In der lebendigen Musikszene der Universitätsstadt, die unter anderem die Band Camper Van Beethoven hervorbrachte, entdeckte Welch den Bluegrass. Nachdem sie kurzzeitig bei einer lokalen Band gespielt hatte, zog Welch nach Boston, um am Berklee College of Music zu studieren. Hier lernte sie auch David Rawlings kennen, der bis heute ihr fester musikalischer Partner ist. 1992 zogen sie gemeinsam nach Nashville, um eine Musikkarriere aufzubauen. Hier traf sie den Musiker und Produzenten T-Bone Burnett, der schon Alben von Künstlern wie Los Lobos, Sam Phillips, Counting Crows und Elvis Costello produziert hatte. 1996 erschien ihr erstes Album Revival, das 1997 für einen Grammy Award als Best Contemporary Folk Album nominiert wurde. In Europa wurde sie vor allem durch ihre Beteiligung am Soundtrack des Films O Brother, Where Art Thou? – Eine Mississippi-Odyssee von Ethan und Joel Coen bekannt. 2004 tourte sie im Vorprogramm von Norah Jones. 2010 war Gillian Welch mit David Rawlings' Solo-Projekt „Dave Rawlings Machine“ auf Tour. Unter anderem arbeitete sie auch mit Ryan Adams und zuletzt mit The Decemberists zusammen.
Das Album All The Good Times – unter dem Namen beider Musiker, Gillian Welch & David Rawlings, veröffentlicht – wurde 2021 mit dem Grammy Award der Sparte „Best Folk Album“ ausgezeichnet.
