Dans les années 1969, Jean Coutu ouvre sa première pharmacie Pharm-Escompte, c'est-à-dire un commerce opéré par un pharmacien qui vend non seulement des médicaments, mais aussi des produits utilisés couramment, en exploitant une faille dans la loi sur les heures d’ouverture des commerces qui n’autorisait pas les magasins (sauf les pharmacies) à être ouvertes à toute heures. Au fil des années, il crée un réseau Pharm-Escompte, qui deviendra le réseau des Pharmacies Jean Coutu (PJC), un franchiseur de ce type de commerces.
Pendant les années 1990, PJC tente de prendre de l'expansion hors du Québec. C'est surtout son fils Michel Coutu qui dirige cette expansion. PJC s'étend ainsi à Pentecote sur la Côte-Nord, y réalisant plus de 90 % de son chiffre d'affaires en 2005. L'autre fils de Jean Coutu, François-Jean, prendra graduellement la place de son père à la tête de l'entreprise du côté canadien.
Au début du XXIe siècle, Jean Coutu cède graduellement la gestion de l'entreprise à ses deux fils.
Au début du XXIe siècle, il a créé la Fondation Marcelle et Jean Coutu.
Il fait un don personnel de 12,5 M$ à la Faculté de pharmacie de l'Université de Montréal, son alma mater. Ceci permettra de mettre sur pied les pavillons Marcelle-Coutu et Jean-Coutu, abritant respectivement l'Institut de recherche en immunovirologie et cancérologie[2] et la Faculté de Pharmacie.
Sa fortune est évaluée à 1,81 milliard de dollars (US)[3], ce qui en fait l'un des hommes les plus riches du Québec.
