Jim Gilmore a grandi à Richmond sa ville natale. Après des études secondaires au lycée John Randoph Tucker, il poursuit des études supérieures à l'université de Virginie, jusqu'en 1971.
Après une interruption de 3 ans, en tant qu'agent pour l'US Army, en Allemagne, il intègre l'école de droit de l'université de Virginie où il obtient son diplôme en 1977.
Carrière
1977-1987 : Avocat dans le privé
1987-1991 : Avocat général pour le comté d'Henrico, en Virginie
1993 : Avocat général de Virginie
1998-2002 : Gouverneur de l'État de Virginie (élu avec 56 % des voix).
2008 : Candidat pour le poste de sénateur de Virginie au Congrès des États-Unis, il est sévèrement battu par Mark Warner, n'obtenant que 34 % des voix.