Littlejohn wurde in Jackson (Mississippi) geboren und lernte zunächst das Bluesspiel von Henry Martin, einem Freund seines Vaters. 1949 verließ er sein Zuhause und reiste umher. 1951 ließ er sich in Gary (Indiana) nieder und spielte, wann immer möglich, im nahegelegenen Chicago.[1][2]
Littlejohn trat regelmäßig in Chicagoer Clubs auf, unter anderem mit Howlin’ Wolf, und spielte in den 1950er Jahren bei Aufnahmen von Jimmy Reed.[3] Erst ab 1966 nahm er seine ersten Singles unter eigenem Namen für verschiedene Labels auf.[2] Sein Debüt-Album John Littlejohn’s Chicago Blues Stars erschien 1968 bei Arhoolie Records.[1][4] Einige Aufnahmen bei Chess blieben zunächst unveröffentlicht.[3][4]
In den folgenden Jahren erschienen einige Titel von Littlejohn in verschiedenen Blues-Kompilationen und auf Singles, daneben spielte er bei Aufnahmen anderer Musiker. 1973 kam sein nächstes Album als Johnny Little John: Funky From Chicago auf den Markt.[3][4] Das Album Chicago Blues at Home von 1977 mit verschiedenen Bluesmusikern, darunter Littlejohn, wurde für einen Grammy Award nominiert.[5] Ebenfalls 1977 kamen das Live-Album John Little John: Dream sowie die Kompilationen Chicago Blues Nights Vol. 1 und Guitar Star mit Littlejohn und anderen Musikern heraus.[3][4]
Es folgten weitere Kompilationen mit Aufnahmen von Littlejohn, und er begleitete weiterhin andere Musiker bei Aufnahmen. 1978 veröffentlichte er bei Black & Blue das Album Sweet Little Angel.[3][4] Er nahm einige Singles für lokale Labels auf, aber erst 1985 ein weiteres Album, das Rooster Blues unter dem Titel So-Called Friends veröffentlichte. 1989 erschien bei Wolf Records das Album John Littlejohn’s Blues Party, 1992 bei JSP Records When Your Best Friend Turns Their Back On You.[3][4]
John Littlejohn starb am 1. Februar 1994 im Alter von 62 Jahren in Chicago an Nierenversagen.[1]
