Polytechnicien (promotion 1896)[2], il s'engage dans l'armée de terre, choisissant le génie[3]. Il devient capitaine en 1904 puis suit les cours de l'École supérieure de guerre[3]. Brillant élève, il obtient le brevet d'état-major à 31 ans[3]. Il va alors faire pratiquement toute sa carrière au sein de différents états-majors[3].
Lorsqu'éclate la Première Guerre mondiale, il est nommé à l'état-major de la 10e armée[3]. Il est nommé commandant le et finit la guerre comme sous-directeur de l'arrière au Grand quartier général[3]. Colonel en , il prend le commandement du 9e régiment du génie de à [3]. Il réintègre ensuite l'état-major de l'armée (EMA). Il est nommé général de brigade en 1925[3] puis général de division en 1931[2]. Le , il est nommé major-général de l'EMA où il devient l'adjoint de Maurice Gamelin[4], chef d'état-major général nommé cette année-là en remplacement de Weygand. Colson devient membre du Conseil supérieur de la guerre en 1936 et est promu général d'armée cette même année.
Pendant la guerre d'Espagne, commandant le 4e bureau au ministère de la Guerre, il supervise avec Jean Moulin les envois d’armes français aux républicains espagnols : « Chaque fois que nous montions une grosse opération d’armement lourd dans un port, par exemple, c’était extraordinairement calé. Il fallait une harmonie et une coordination parfaites
des décisions entre Colson, au ministère de la Guerre, et la police de l’endroit, le préfet local, les Douanes, les chemins de fer, enfin les chefs de région militaire, pour nous couvrir en cas de coup dur ou d’incident. »[5]
Au début de la Seconde Guerre mondiale, en , il est chef d'état-major de l'armée de l'intérieur. En poste au Grand Quartier général à Vincennes, il est avisé le 9 mai 1940 par le commandant Baril du 2e bureau (renseignements) de l'imminence de l'attaque entre le 8 et le 10 mai, lequel Baril suggère le rappel de tous les permissionnaires. Colson a une réponse étrangement paradoxale ; il dit « Pour quoi faire ? Ils ne sont pas prêts à se battre, l'Allemagne se désagrège ». Après la défaite, on le retrouve comme Ministre-secrétaire d'État à la Guerre, dans le Gouvernement Pétain, du au (dernier ministre de la Guerre de la IIIe République ; il existe aussi pendant cette courte période un ministre de la Défense nationale, fonction occupée par Maxime Weygand). À ce titre, c'est lui qui signe la décision ministérielle du qui annule la nomination de Charles de Gaulle comme général de brigade à titre temporaire[6] (il avait été promu le ). Il est ensuite secrétaire d'État à la Guerre du au dans le premier gouvernement[2] du régime de Vichy.
En juillet 1940, il invite les commandants de région, par une lettre manuscrite confidentielle, au mépris des conventions d’armistice, à camoufler le plus de matériels et d’approvisionnements militaires possible. Il soutient René Carmille durant le mois d’août 1940 dans sa proposition de créer un organisme civil susceptible de pallier secrètement la dissolution du service du recrutement. Il est alors mis à la retraite a 65 ans, le 23août1940, en application d'une loi adoptée le 2août1940 qui abaisse les limites d'âge pour tous les grades, Louis Colson est mis en retraite en même temps que les généraux Antoine Marie Benoit Besson, Georges Blanchard, Victor Bourret, Robert Touchon, Charles-Marie Condé, Jeanny-Jules-Marcel Garchery et Charles Noguès[7].
Traduit devant la Haute Cour de justice à la Libération, Louis Colson bénéficie le d'un non-lieu pour faits de Résistance[2]. Il est reconnu qu'il a joué double jeu et a freiné la livraison d'armes à la Wehrmacht en les camouflant[8].