Del periodo in cui sia Bruce sia Baker suonarono assieme nel gruppo è nota la loro reciproca ostilità. Sono numerosi gli episodi in cui i due si sabotarono reciprocamente gli strumenti e si aggredirono sul palco. Queste tensioni terminarono solo quando Baker, ottenuta de facto la leadership del gruppo, estromise Bruce.
In seguito Bruce suonò con il John Mayall Group e con Manfred Mann prima di fondare nel 1966, con Eric Clapton alla chitarra e Ginger Baker alle percussioni, quello che fu uno dei primi e più influenti supergruppi della storia del Rock: i Cream, trio in cui Bruce ebbe il ruolo di bassista e cantante.
In collaborazione col paroliere Pete Brown, Bruce scrisse la maggior parte del materiale originale del gruppo, tra cui: Sunshine of Your Love, con la partecipazione anche di Clapton, White Room, Politician e I Feel Free. Nel repertorio dei Cream ci sono, comunque, anche molti brani scritti dal solo Bruce quali, per esempio, N.S.U. e We're Going Wrong.
Lo stile musicale di Bruce mostrava chiaramente l'influenza della sua formazione classica, ed egli ebbe modo di affermare che alcune delle migliori parti di basso mai scritte sono opera di Johann Sebastian Bach. Altre influenze riconoscibili nel suo stile di bassista sono
riconducibili a James Jamerson e a Charles Mingus. Jack, fin dai primi esordi con i Cream, utilizzò diversi modelli di basso elettrico, quali il "mitico" Fender bass a quattro e sei corde (Fender bass VI), e il suo intramontabile Gibson che lo accompagnò nei suoi più memorabili successi con Clapton e Baker. Dal punto di vista dell'amplificazione, Bruce era solito utilizzare amplificatori Marshall da 100 watt e oltre. Solamente agli esordi amplificava il suo basso con un Ampeg B-15. Per molti anni Jack utilizzò corde "flatwound" (cioè con una finitura dell'avvolgimento liscia), dando così al suo basso un suono maggiormente blues.
Dopo lo scioglimento dei Cream (novembre 1968), Bruce ha collaborato con molti musicisti di qualità tra cui Lou Reed, partecipando alle incisioni di Berlin. Per alcuni anni ha suonato nella band di Robin Trower (l'album 'BLT' prende nome dalle iniziali dei tre artisti che lo hanno realizzato: Jack Bruce, Bill Lordan e Robin Trower).
Nel 1972-1973, Bruce si unì a Leslie West e Corky Laing (provenienti dai Mountain, gruppo hard rock americano di una certa notorietà) per formare il trio West, Bruce and Laing che produsse due album in studio, Why Dontcha e Whatever Turns You On, e uno dal vivo, Live 'N' Kickin'.
L'attività di Bruce continuò per tutti gli anni Novanta con concerti e nuovi album. Nei primi anni 2000, ebbe seri problemi di salute e nell'estate 2003 gli venne diagnosticato un cancro al fegato; nel settembre dello stesso anno fu sottoposto a un trapianto di fegato che rischiò di essergli fatale a causa di una crisi di rigetto, ma in seguito si ristabilì.
Nel maggio 2005 il gruppo dei Cream si riunì in occasione del loro 40º anniversario di formazione, per una serie di concerti alla Royal Albert Hall di Londra e al Madison Square Garden di New York nell'ottobre dello stesso anno. Dalla serie di concerti londinesi venne tratto un album: Royal Albert Hall London May 2-3-5-6 2005.
Il 24 marzo 2014 ha dato alle stampe il suo ultimo album di studio, Silver Rail.
Nonostante le assai precarie condizioni di salute, ha continuato a esibirsi in giro per il mondo fino a pochi mesi prima della sua morte (25 ottobre 2014).
L'ultimo concerto della sua carriera con la formazione che lo ha accompagnato negli ultimi anni di vita, la "Jack Bruce & His Big Blues Band", ha avuto luogo in Italia, a Catanzaro, il 7 settembre 2013, nell'ambito della rassegna "Settembre al parco".