Issu d'une famille modeste[3], Fernand Gilbert monte très tôt sur les scènes de café-concert comme chanteur et comme comédien. Il n'apparait que tardivement à presque 50 ans sur les plateaux de cinéma quelques mois seulement avant le déclenchement de la seconde guerre mondiale.
Ce n'est que deux ans après la fin du conflit que sa carrière cinématographique redémarre avec Le Silence est d'or de René Clair sorti en mai 1947. Son dernier rôle sera celui d'un tueur dans le film Nuits de Pigalle de Georges Jaffé sorti en mai 1959, quatre ans avant son décès.
Mort à l'hôpital Tenon à l'âge de 72 ans, Fernand Gilbert était marié depuis février 1922 avec la chanteuse et comédienne Fernande Andrieux (1901-1986)[4].