Johansson oli ensimmäinen eurooppalainen jäsen Jazz at the Philharmonicissa. Hän aloitti yhteistyön ruotsalaisten muusikoiden, muun muassa Arne Domnérusin ja Georg Riedelin kanssa vuonna 1961. Levystä Jazz på svenska on tullut moderni klassikko, joka on sekoitus jazzia ja ruotsalaista kansanmusiikkia. Johansson teki myös yhteistyötä Astrid Lindgrenin kanssa säveltäen musiikin hänen teksteihinsä. Tunnetuin näistä sävellyksistä on ehkä ”Tässä on Peppi Pitkätossu”.
Johansson meni naimisiin Else Bergströmin kanssa vuonna 1957 ja he saivat kaksi poikaa, Jens ja Anders, jotka ovat myös tunnettuja muusikoita. Johansson kuoli auto-onnettomuudessa 37-vuotiaana marraskuussa 1968.
1988 – Folkvisor (Jazz på svenska ja Jazz på ryska samalla CD:llä)
Palkinnot
Gyllene Skivan -palkinto vuoden parhaasta ruotsalaisesta jazzlevystä 1960 ja 1961
3. palkinto Prahan kansainvälisillä jazzfestivaaleilla 1966
Kirjallisuutta
Bjerknes, Bo: Jan Johansson: 1931–1968. Bollnäs: Ljusnan, 1998. ISBN 91-630-7147-9. Mukana CD, joka sisältää muun muassa osittain julkaisematonta materiaalia, haastattelun sekä täydellisen diskografian.