Phil Upchurch begann seine Musikerkarriere in R&B Bands, wie den The Kool Gents, The Dells und The Spaniels. 1961 formierte er eine eigene Band, mit der er den Hiterfolg „You Can't Sit Down“ einspielt, der #30 der US-Charts erreichte. Der Band gehörten damals der Organist Cornell Muldrow, der Saxophonist David „Bubba“ Brooks, der Trompeter Mac Johnson und der Schlagzeuger Joe Hoddrick an. 1966 wirkte er an Stan Getz´ Hommage an Burt Bacharach, What the World Needs Now, mit. In den 1970er Jahren arbeitete Upchurch mit dem Keyboarder Tennyson Stephens zusammen; deren Album Upchurch/Tennyson erschien auf CTI Records im Jahr 1975, produziert von Creed Taylor, die Arrangements stammten von Bob James. 1974 wirkte er an einem der letzten Alben von Cannonball Adderley (Pyramid) vor dessen Tod mit.
