Gabin sündis kabareeartistide perekonnas. Töötas ka ise kabareedes, sealhulgas Moulin Rouge'is. 1928. aastal mängis kahes tummfilmis. Rahvusvahelise tuntuse sai ta 1937. aastal, kui linastusid Julien Duvivier' "Pépé le Moko" ja Jean Renoiri "La Grande Illusion", kus Gabin mängis peaosa. 1938. aastal mängis ta Marcel Carné filmis "Le Quai des brumes" ("Udune kaldatänav"). Pärast Prantsusmaa okupeerimist 1940. aastal siirdus Gabin Hollywoodi, kus mängis mitmes filmis.