Fils de Jean Baptiste Olivier (officier du régiment d'Aquitaine) et de Louise Weisbroch, il naît sous les drapeaux du régiment.
Entré dans la carrière des armes le en qualité de soldat dans le 35e régiment, ci-devant Aquitaine, il est fait caporal, sergent, adjudant-major, chef de bataillon, puis général de brigade le . Le il monte dans le premier aérostat qui est lancé avant la bataille de Fleurus, il commande une brigade pendant cette journée, et y mérite de tels éloges que, pour en conserver le souvenir, il fait donner à son fils le nom de Fleurus. Le général Olivier commande en l’an IV la cavalerie de la division Grenier.
Au nombre des faits d’armes qui l'ont distingué, on peut citer le passage de la Lahn, où il charge l’arrière-garde ennemie, la culbute, la poursuit avec impétuosité et lui fait 130 prisonniers ; le combat de Rauch-Eberach où, chargé par le général Jourdan de débusquer un corps ennemi, il se précipite à l’instant sur lui, le bat et le met en fuite ; la prise et le combat de Subbach, où il s’établit, puis contraint l’ennemi de se retirer et d’aller chercher un refuge derrière les rochers. On cite la brillante défense de la tête du pont de Neuwied qu’il fait à l’armée de la Moselle en ; la prise audacieuse des redoutes et du village de Bendorff, où il se signale en à l’armée de Sambre-et-Meuse, celle plus importante et plus difficile de Wetzlar, qu’il fait avec sa brigade seule en . On cite encore les succès qu’il obtient avec sa division en 1798 sur les rebelles de la Calabre, qu’il bat et disperse complètement après leur avoir pris 35 000 fusils ; et les services qu’il rend à l’armée lors de la retraite dirigée par Macdonald. Ce dernier fait d’armes lui vaut le grade de général de division le . On cite enfin les prodiges de valeur que fait le général Olivier à la Bataille de La Trébie les 30 prairial et 1er messidor an VII (18-) où sa division appuie la gauche de la ligne de bataille, et où il a une jambe emportée par le dernier boulet français au moment où il prodigue ses soins aux blessés sur le champ de bataille.
Lorsqu’il est de retour en France et en état de reprendre du service, le premier Consul lui confie une inspection générale le 21 pluviôse an VIII (), et il s’acquitte de ces nouvelles fonctions de 1800 jusqu’à la suppression du comité central des revues en 1806. Il a développé dans ce comité le caractère franc, ferme et judicieux qu’il a toujours eu, et il s’y est acquis l’estime et l’attachement de ses collègues et de ses subordonnés.
Dans le mois de floréal an X, il part pour l’Étrurie, se rend dans la République italienne en l’an XII. Le 24 prairial an XII () il rencontre un parti autrichien à San-Veneizo, le charge jusqu’à un mille de Modène, le culbute et lui fait un grand nombre de prisonniers. Le 30, il est blessé en combattant courageusement près de Plaisance. Il est mis en disponibilité en l’an XIII et commande la 20e division militaire. Le général Olivier est à cette époque baron de l'Empire, grand officier de la Légion d’honneur, chevalier de l’ordre de la Couronne de Fer.
Le il reçoit le commandement de la 16e division militaire, est employé près du corps d’armée rassemblé sur l’Escaut le , sert à l’armée du Nord le de la même année, et se rend à Lille, chef-lieu de son gouvernement. Il est en tournée pour le service de sa division lorsqu’il meurt au château de Saint-André à Witternesse le . La ville entière accompagne son cercueil à sa dernière demeure.
Il apparaît sur la 7e colonne de l'Arc de Triomphe à Paris. Son nom figure sur la liste de généraux d'empire en façade du mess des officiers place Broglie à Strasbourg.
Famille
Jean-Baptiste Olivier s'est marié en 1789 avec Marie Anne Lambert dont il a neuf enfants, dont Joseph Dagobert Olivier, député de Calais de 1830 à 1848 et Cécile Catherine Olivier (1790-1867), mariée en 1811 à l'officier néerlandais Carel Sirardus Willem van Hogendorp[1].
A. Lievyns, Jean Maurice Verdot, Pierre Bégat, Fastes de la Légion d'honneur : biographie de tous les décorés accompagnée de l'histoire législative et réglementaire de l'ordre, vol. 3, Bureau de l'administration, (lire en ligne) ;