Pizzarelli soitti ensimmäistä kertaa kitaraa noin 9-vuotiaana ja sai opetusta sukulaismiehiltään.[3] Hän on toisen maailmansodan veteraani[4] Ennen asepalvelustaan ja sen jälkeen hän kiersi Vaughn Monroen kanssa.[2] Hän on seitsenkielisen kitaran soittamisen edelläkävijä.[4] Pizzarelli liittyi vuonna 1952 NBC:n henkilökuntaan ja siirtyi kaksitoista vuotta myöhemmin ABC:lle. Hän työskenteli vuosina 1956–1957 The Three Soundsin kanssa ja kiersi useaan otteeseen Benny Goodmanin kanssa.[2] Tammikuussa 1968 hän äänitti Miles Davisin kvintetin kanssa kappaleen "Fun".[3] 1970-luvulla Pizzarelli toimi duona George Barnesin kanssa ja teki yhteistyötä myös Zoot Simsin, Bud Freemanin sekä Stéphane Grappellin kanssa. Hän on levyttänyt poikansa John Pizzarellin kanssa muun muassa albumeilla Nirvana (1995), Solos & Duets (1996), Contrasts (1999), Passionate Guitars (2001) ja Generations (2007).[2] Hänen muut lapsensa ovat basisti Martin Pizzarelli ja klassinen kitaristi Mary Pizzarelli.[4]