Nach dem Besuch der Dorfschule konnten ihm seine Eltern keine höhere Schulbildung finanzieren. Nachdem der Bischof von Bauvais auf ihn aufmerksam geworden war, ermöglichte dieser ihm ein Studium der Theologie. Anschließend war Baillet zunächst als Lehrer in Beauvais tätig und wurde dann 1676 zum Priestergeweiht. 1680 wechselte er nach Paris, wo er für den Generalanwalt des Parlement de ParisFrançois-Chrétien de Lamoignon als Bibliothekar tätig wurde und dort einen 35-bändigen Catalogue raisonné erstellte.