W 1761 r. wstąpił do zakonu Jezuitów. Ukończył seminarium. W 1770 otrzymał święcenia kapłańskie z rąk biskupa Hilarego Szembeka, ówczesnego koadiutora chełmińskiego.
W latach 1791–1792 organizował dla "ubogich a cnotliwych panienek" w kościołach warszawskich "loteryę na posagi”. Panny musiały spełnić pewne "kondycye" i złożyć odpowiednie świadectwa, po czym była “ciągnięta loterya, aby los determinował posagi dla panien każdego urodzenia, równie dobre okazujących świadectwa.”[7]
Nominacja ta, choć po myśli władz rządowych Księstwa Warszawskiego, nie otrzymała jednak prekonizacji papieża - po zatargu papieża Piusa VII z Napoleonem w latach 1809-1814 i uwięzieniu papieża we Włoszech i Francji, Stolica Apostolska nie udzielała prekonizacji na terenach będących pod władzą Napoleona[9].
“Rządził tą dyecezyą, iako Administrator, aż do odebrania sakry z Rzymu, która mu nadeszła, gdy iuż ciężką chorobą paraliżową był złożony”, jak donosiła ówczesna gazeta[10].
Jako biskup-nominat zaprzestał używać tytułu książęcego, tradycyjnie przybieranego przez biskupów płockich. Według tradycji arcybiskup gnieźnieński i prymas tytułował się księciem łowickim, biskup krakowski - księciem siewierskim, biskup warmiński - księciem warmińskim, a biskup płocki - księciem pułtuskim. Ostaszewski zarzucił ten zwyczaj. Ostatnim biskupem płockim, który używał tytułu księcia pułtuskiego, był jego poprzednik na stolcu biskupim płockim, Onufry Kajetan Szembek.
Zwrócił się z apelem do duchowieństwa, by zajęło się oświatą ludu i popierało zamierzenia edukacyjne władz[11]. Jego list pasterski do duchowieństwa na temat roli i znaczenia oświaty spotkał się z uznaniem władz Księstwa Warszawskiego[12].
W 1811 roku zajął stanowisko w sprawie szczepień przeciw ospie. Pouczał wiernych, iż szczepienie jest lekarstwem. Niesłusznie rozumują niektórzy, jakoby stanowiło to poprawianie Pana Boga i sprzeciwianie się Jego woli; kto ma umrzeć, tego śmierć dosięgnie i po zaszczepieniu. Jego odezwę zachęcającą wiernych do szczepień czytano w kościołach przez trzy niedziele. Organizacją szczepień zajmowały się władze cywilne, a księża ogłaszali z ambon ustalone przez lekarzy daty[13].
Był zwolennikiem zniesienia wymogu pochodzenia szlacheckiego przy otrzymywaniu dostojeństw i godności duchownych. Na jego wniosek kapituła płocka pozwoliła w maju 1815 roku instalować na jedną z kanonii diecezji księdza mianowanego przez Radę Stanu Księstwa Warszawskiego, chociaż nie przedstawił dyspensy papieskiej od przeszkody braku pochodzenia szlacheckiego[14].
Jako biskup-nominat miał od 1809 roku krzesło w senacie Księstwa Warszawskiego, ale podobnie jak inny biskup-nominat, kujawski Franciszek Skarbek-Malczewski, w posiedzeniach senatu nie brał udziału. Sprawy tych dwóch nominatów: Malczewskiego i Ostaszewskiego, trafiły w Rzymie ad acta z powodu uwięzienia papieża. Według Encyklopedii Orgelbranda obaj ci biskupi nie uczestnicząc w posiedzeniach senatu "uchybili tradycji, bo zwykle nasi biskupi po nominacji królewskiej, jeszcze przed bullą, a więc przed wyświęceniem się, zajmowali krzesła senatorskie".[16] Ostaszewski był potem formalnie senatorem Królestwa Polskiego, ale będąc sparaliżowany nie uczestniczył w obradach senatu.
Był pierwszym, który w liście pasterskim powiadomił społeczeństwo o utworzeniu Królestwa Polskiego[17]. Pierwsza urzędowa wzmianka o utworzenia Królestwa Polskiego ukazała się bowiem w jego liście pasterskim z dnia 25 czerwca 1815 r.[18]
Ze względu na zły stan zdrowia, spowodowany wylewem krwi do mózgu i częściowym paraliżem, przydano mu w grudniu 1816 koadiutora - prałata Adama Michała Prażmowskiego.
↑A. 1780. 17 Julii. Receptio Thomae Ostaszewski, can. Chełm., per Antonium Onuphrium Okęcki, eppum Posn., suprenum Regni Cancellarium, provisi et instituti ad can. f. Łęki post plenariam possessionem praepositur ae per Josephum Miaskowski vac. Cuius pater erat Florianus Antonius Ostaszewski, Thesaurarius Braclawien. armorum Ostoia, mater Marianna Bartołtowna de armis Grzymała, mater p. Elisabeth Klonowska de armis Leszczyc, mater m. Barbara Skierkowska de armis Jelita. Cyt za: Receptiones seu installationes ad episcopatum, praelaturas et canonicatus Ecclesiae Cathedralis Posnaniensis ab anno 1532 usque ad annum 1800 collectae et editae a R. Weimann, [w:] Roczniki Towarzystwa Przyjaciół Nauk Poznańskiego, Tom XXXV (1908 r.), Poznań 1909, s. 156
↑Michał Marian Grzybowski, Stan Diecezji Płockiej na podstawie raportu biskupa Adama Prażmowskiego z 1818 roku [w:] Studia Płockie, t. 35, 2007 rok, 265-266
↑Tadeusz Walachowicz, Kościół katolicki: w prawodawstwie Księstwa Warszawskiego, Lublin 1984, s. 142
↑Józef Kazimierski, Ryszard Kołodziejczyk, Janusz Szczepański, Dzieje miasta Pułtuska, Pułtuskie Tow. Społeczno-Kulturalne, 1992, s. 62
↑Witold Jemielity, Ambona w Księstwie Warszawskim i Królestwie Polskim dla ogłoszeń cywilnych, "Prawo Kanoniczne: kwartalnik prawno-historyczny" 43/1-2, 2000 rok, str. 160
↑Stanisław Liszewski, Zniesienie wymogu pochodzenia szlacheckiego przy otrzymywaniu dostojeństw i godności duchownych, Towarzystwo Naukowe Płockie, Rocznik I, 1929 rok, s. 123.
↑Polski Słownik Biograficzny, t.24, Wrocław 1979, str. 460-461. Zob. też: „Gazeta Warszawska” R. 1815 nr 91 (z 14 XI 1815) – Dodatek Drugi, s. 1845: „Dnia 12 bm. odbyło się [w Warszawie] poświęcenie J.W. Ostaszewskiego na biskupa płockiego. Dopełnił tego obrzędu J.W. Górski, senator, biskup kielecki, w asystencji J.W. Ciechanowskiego, senatora, biskupa chełmskiego grecko-unickiego, i J.W. Malinowskiego, biskupa cynneńskiego”. Cyt. za: Krzysztof R. Prokop, Wypisy z XVIII i XIX wiecznej prasy periodycznej na temat sakr biskupów kościoła katolickiego z historycznych ziem polskich; w: Biuletyn Biblioteki Jagiellońskiej R. 62, 2012 r., s. 38.
↑Julian Bartoszewicz, hasło "Senat", [w] Encyklopedia powszechna, t. 23, Warszawa 1866, nakł. S. Orgelbranda, s. 289
↑Kongres Wiedeński i ustalenie Królestwa Kongresowego (z pamiętników Leona Dembowskiego), w: Ateneum. pismo naukowe i literackie. 1883 r., tom IV, zbioru ogólnego tom XXXII, Warszawa 1883, s. 488
↑według: Katalog zabytków sztuki w Polsce. Pułtusk i oklolice, Warszawa 1999, str. 47
↑Ciąg dalszy Kalendarzyka narodowego i obcego na rok ... 1792 czyli II część, z konstytycyami od roku 1788 dnia 6 października do roku 1791 dnia 23 grudnia przez daty oznaczonemi, s. 425.
↑Pisma Marcina Molskiego, T.2, Warszawa 1855, s. 85-86