Van Zandt, ein italiensk-amerikanar, er eigenleg fødd som Steven Lento i Winthrop i Massachusetts. Mora hans gifta seg likevel på nytt og han tok difor etternamnet til stefaren sin. Familien flytta til New Jersey då han var sju år gammal.
Van Zandt var med i fleire av Bruce Springsteens tidlege band tidleg på 1970-talet. Frå 1975 til 1984 var han medlem av Springsteens E Street Band. Etter dette vart han soloartist og gjekk under artistnamnet Little Steven. Han har sidan midten av 1990-talet tidvis opptredd saman med E Street Band.
Steven Van Zandt har sidan 2002 leidd radioprogrammet Little Steven's Underground Garage.
I 1999 fekk Van Zandt overraskande den sentrale rollen som Silvio i TV-serien The Sopranos, dette utan at han hadde noko røynsle som skodespelar. Det var skaparen til serien, David Chase, som ynskte han i rolla.
Van Zandt spelar rollen som Frank Tagliano og Giovanni «Johnny» Henriksen i Netflix-serien Lilyhammer som vart send på NRK1 vinteren 2012. Serien som har åtte episodar fekk rekordhøge seertall på premieren med over éin million sjåarar.
I 2014 har Steven Van Zandt òg vore med i reklamefilmar for Telenor.