Gabin narodený ako Jean-Alexis Moncorgé v Paríži bol synom Madeleine Petit a Ferdinanda Moncorgého, kaviarenského zabávača, ktorého umelecké meno bolo Gabin. Vyrastal v dedine Mériel v departemente Seine-et-Oise, asi 35 km severne od Paríža. Syn kabaretných zabávačov navštevoval Lycée Janson-de-Sailly. Predčasne opustil školu a pracoval ako robotník až do veku 19 rokov, keď vstúpil do šoubiznisu s malou účasťou v produkcii Folies Bergères. Pred odchodom do armády pokračoval vo vystupovaní v rôznych menších úlohách. Po skončení vojenskej služby sa Gabin vrátil do zábavného priemyslu a pracoval pod umeleckým menom Jean Gabin. Hral vo všetkom, čo ponúkali parížske hudobné sály a operety, napodobňujúc spevácky štýl Mauricea Chevaliera, ktorý bol v tom čase v móde. Bol súčasťou skupiny, ktorá cestovala po Južnej Amerike a po návrate do Francúzska si našiel prácu v Moulin Rouge. Jeho výkony si začali všímať a prišli aj lepšie javiskové úlohy, ktoré viedli k častiam v dvoch nemých filmoch z roku 1928. O dva roky neskôr ľahko prešiel na filmy v produkcii Pathé Frères z roku 1930 s názvom Chacun sa chance. Gabin, ktorý hral vedľajšie úlohy, nakrútil počas nasledujúcich štyroch rokov viac ako tucet filmov.
Skutočné uznanie však získal až za účinkovanie v romantickej dráme Maria Chapdelaine, inscenácia z roku 1934, ktorú režíroval Julien Duvivier. Druhý film režiséra Duviviera obsadený ako romantický hrdina vo vojnovej dráme z roku 1936 s názvom La bandera (1935) urobil z Gabina hlavnú hviezdu. Nasledujúci rok sa opäť spojil s Duvivierom, tentoraz vo veľmi úspešnom Pépé le Moko (1937); jeho popularita priniesla Gabinovi medzinárodné uznanie. V tom istom roku hral vo filme Jeana RenoiraLa Grande Illusion (1937), protivojnovom filme, ktorý bežal v newyorskom divadle bezprecedentných šesť mesiacov. Nasledovalo ďalšie z významných Renoirových diel: Človek beštia (1938), filmová čierna tragédia podľa románu Émila Zolu s Gabinom a Simone Simonovou v hlavných úlohách, ako aj Le quai des brumes (1938), jeden z klasikov poetického realizmu režiséra Marcela Carného. So svojou druhou manželkou sa rozviedol v roku 1939. Zaplavený ponukami z Hollywoodu ich Gabin istý čas všetky odmietal až do vypuknutia druhej svetovej vojny. Po nemeckej okupácii Francúzska v roku 1940 sa pridal k Jeanovi Renoirovi a Julienovi Duvivierovi v Spojených štátoch. Počas svojho pôsobenia v Hollywoode začal Gabin vášnivý románik s herečkou Marlene Dietrich, ktorý trval až do roku 1948. Jeho filmy v Amerike – Moontide (1942) a The Impostor (1944), neboli až tak úspešné. Jean Gabin sa neohrozene pripojil k Slobodným francúzskym silám generála Charlesa de Gaulla. Bojoval na fronte a za odvahu v bojoch v Severnej Afrike bol vyznamenaný Médaille militaire a Croix de guerre. Po dni D bol Gabin súčasťou vojenského kontingentu francúzskej 2. obrnenej divízie, ktorý oslobodil Paríž.
V roku 1946 Gabina najal Marcel Carné, aby si zahral vo filme Les portes de la nuit (1946), ale režisér sa radšej obrátil na Yvesa Montanda. Gabin následne kontaktoval francúzskeho producenta a režiséra, ktorý bol ochotný obsadiť jeho a Marlene Dietrichovú spolu, ale ich film Martin Roumagnac (1946) nemal úspech a ich osobný vzťah sa čoskoro skončil. Po ďalšom komerčne neúspešnom filme v roku 1947 sa Gabin vrátil na scénu, ale aj tam bola produkcia ďalšou finančnou katastrofou. Napriek tomu ho obsadili do hlavnej úlohy vo filme Reného ClémentaLe mura di Malapaga (1949), ktorý získal Oscara za najlepší cudzojazyčný film z roku 1949. Napriek tomuto uznaniu sa filmu vo Francúzsku nedarilo. Nasledujúcich päť rokov prinieslo len o málo viac ako opakované neúspechy. Zdalo sa, že Gabinova kariéra smeruje do zabudnutia. Vrátil sa však vo filme z roku 1954Touchez pas au grisbi (1954; réžia: Jacques Becker). Jeho výkon mu vyslúžil uznanie u kritikov a film bol veľmi výnosným medzinárodným úspechom. Neskôr opäť spolupracoval s Jeanom Renoirom vo francúzskom Cancan (1955), s Maríou Félix a Françoise Arnoul. Gabin hral následne v Simenonovych troch filmoch v rokoch 1958, 1959 a 1963 detektíva Julesa Maigreta.
Počas nasledujúcich dvadsiatich rokov Gabin nakrútil ďalších takmer 50 filmov, z ktorých väčšina bola komerčne a kriticky veľmi úspešných, vrátane mnohých pre Gafer Films, jeho produkčné partnerstvo s kolegom herecom Fernandelom. Na konci 60. rokoch si zahral v troch hitových filmoch Tetovaný (1968) Paša (1968) a Sicilský Klan (1969). Medzi jeho herecké hviezdy patrili popredné osobnosti povojnovej kinematografie ako Brigitte Bardot, Alain Delon, Lino Ventura, Jean-Paul Belmondo a Louis de Funès. V roku 1976 hral vo svojom poslednom filme Svätý rok s hercom Jeanom-Claudeom Brialyom v réžii Jeana Giraulta.
Gabin zomrel na leukémiu v Americkej nemocnici v Paríži na parížskom predmestí Neuilly-sur-Seine. Jeho telo bolo spopolnené a s plnými vojenskými poctami bol jeho popol rozptýlený na mori z vojenskej lode.