デヴィッドと学校の3人の友人は民俗学者でミュージシャンのラルフ・ラインツァーとニュージャージー州パサイクで出会い、彼の伝統音楽の膨大な知識にデヴィッド達は触発された。この期間、ニューヨークのグリーンウィッチ・ビレッジはフォーク・ミュージシャン達でにぎわっていた。デヴィッドは自分が人生を音楽に委ねたいと願っていることに気が付いた。1963年、グリスマンはEven Dozen Jug Bandに加入しミュージシャンとしての活動を始めた。その年にエレクトラ・レコードでアルバムのレコーディングを行った。
1967年には、ピーター・ローワンと共に、アース・オペラ (Earth Opera)と呼ばれるサイケデリック・ロック・バンドを結成。1973年にはOld in the Wayというブルーグラス・バンドを結成。メンバーは、ピーター・ローワン、バッサー・クレメンツ、ジェリー・ガルシア、ジョン・コーアン。このバンドにおいて、ガルシアがグリスマンに「ドーグ (Dawg)」のニックネームをつけた。その由来はというと、スティンサン・ビーチで運転するグリスマンの姿が犬によく似ていたからである。1974年、グリスマン、ローワン、リチャード・グリーン、ビル・キース、クラレンス・ホワイトと共にミュールスキナーに加入。同1974年、グリスマンはThe Great American Music Bandにも在籍。1975年に自らのバンド、デヴィッド・グリスマン・クインテット (David Grisman Quintet、DGQ)を結成。1977年に最初のアルバムをリリース。同1977年にはボニー・レイットのアルバム『愛に乾杯』にてマンドセロも演奏している。
グリスマンは多くのブルーグラス曲を映画『ビッグ・バッド・ママ (Big Bad Mama)』(1974年、ロジャー・コーマン監督)のために書いている。これらの曲はGreat American Music Bandによって演奏され、Bill Wolfによってレコーディングとミックスが行われた。その他、『ビッグ・ボス (Capone)』(1975年)、『レーシング・ブル (Eat My Dust!)』(1976年)、『キング・オブ・ジプシー (King of the Gypsies)』(1978年)といった映画にも楽曲を提供している。
サムソンはベーシストで、ナッシュビルに住んでおり、しばしばデヴィッドと共演する。ギリアンは、映画製作者で、カルフォルニア州ノーバートに在住。Grateful Dawgや、ミュージック・ドキュメンタリー Village Music: Last of the Great Record Storesのディレクターを務めている。
グリスマンは自身のバンド(DGQ、Old and the Way)からアルバムをリリースしてきた。また、ジェリー・ガルシア、アンディ・スタットマン、マーティン・テイラー、ジョン・セバスチャン、トニー・ライスといった仲間たちと演奏をしたり、ピーター・ローワンとサイケデリック・バンドであるEarth Operaで演奏をしてきた。また多くのソロレコードや様々なジャンルのアーティストたちとのレコーディングを行ってきた。