Célestin Guilon pratique d'abord le duathlon, le triathlon, et la course à pied dans sa jeunesse. En 2018, il se classe notamment sixième du championnat de France de cross-country dans la catégorie espoirs[1],[2]. Il délaisse ensuite ces disciplines et commence à se consacrer au cyclisme à l'âge de vingt-et-un ans. Il prend alors une licence au club Saint-Vincent Lucé Berné Cycliste[3].
En 2019, il rejoint l'équipe Laval Cyclisme 53, qui évolue en division nationale 2. Au printemps, il s'impose sur une étape de la Flèche d'Armor[4]. Deux ans plus tard, il obtient de nouveaux succès lors des Boucles du Haut-Var[5] et au Grand Prix de Percy-en-Normandie[6].
Grâce à ses bons résultats, Célestin Guilon passe professionnel en 2023 au sein de la formation continentale Go Sport-Roubaix Lille Métropole[3]. Il effectue sa reprise sur route au mois de janvier lors du Grand Prix de Valence. Le 20 mai, il se classe troisième du Grand Prix de Neufchâtel-en-Saosnois, une épreuve du calendrier national. Peu de temps après, il s'illustre au niveau professionnel en terminant deuxième de la première étape des Boucles de la Mayenne, après une l'échappée[10]. Il conclut cette même épreuve à la onzième place du classement général.
