Jego pierwszym klubem w karierze było Brøndby IF, w którym występował w latach 1982–1988. Po zdobyciu trzech mistrzostw Superligaen postanowił spróbować swoich sił za granicami kraju. Jensen wybrał ofertę Hamburger SV i była to zła decyzja. Wprawdzie był podstawowym elementem składu, jednak pokłócił się z ówczesnym trenerem i wymusił na nim pozwolenie na transfer.
Z klubu odszedł w styczniu 1996 do Brøndby IF i w ciągu czterech kolejnych sezonów święcił kolejne triumfy: trzy mistrzostwa ligi, wicemistrzostwo, Puchar Kraju. W 1998/1999 występował z tym klubem w fazie grupowej Ligi Mistrzów.
Ostatnim klubem w jego karierze było Herfølge BK. Ogłosił zakończenie kariery piłkarskiej w 2001 roku.
Po odejściu z Brøndby zajął się szkoleniem zawodników i został grającym menedżerem Herfølge BK, z którym w 2000 roku sięgnął po swoje dziewiąte w karierze mistrzostwo kraju. Od 2002 do 2006 był asystentem trenera w Brøndby IF, zaś od 2007 do 2008 pełnił identyczną funkcję w hiszpańskimGetafe CF, u boku Michaela Laudrupa. Po nieudanych epizodach w Randers FC (jako samodzielny trener) oraz Blackburn Rovers (jako asystent), wrócił do Brøndby i był tam zatrudniony jako konsultant ds. transferów. W 2014 roku został trenerem Fremad Amager.
Bibliografia
John Jensen w bazie National Football Teams (ang.)