Før tiden i Wings var McCulloch medlem av Thunderclap Newman da han var 15 år gammel og Stone the Crows. Han har deltatt på mange plateinnspillinger, kanskje mest påtagelig på John EntwistlesWhistle Rymes i 1972 og som førstegitarist spilte han sammen med en ung Peter Frampton på to spor — «Apron Strings» og «I Feel Better». McCulloch var en venn av The Who og hans band Thunderclap Newman ble oppdaget av og produsert av Pete Townshend.
I 1976, mens de øvde på den første konserten for Wings Over America Tour i Fort Worth småsloss McCulloch for moro skyld med David Cassidy, og brakk håndleddet. Uhellet forsinket konsertturnen med flere uker og McCartney var ikke spesielt fornøyd.
McCullochs utstyr besto vanligvis av en Gibson SG, Gibson Les Paul, og stundom spilte bass da McCartney spilte piano eller akustisk gitar.
Etter å ha forlatt Wings var han en kort tid med i et gjenforent Small Faces for en kort klubbturne og hadde minimal deltagelse i bandets to comeback-album. McCartney skal etter sigende ha ringt til Steve Marriott og sagt: «Du kan beholde ham!»
Jimmy McCullochs siste band var The Dukes. Hans siste innspilte sang, «Heartbreaker», ble utgitt på deres første og siste album, The Dukes.
