В 1769—1772 годах Ф. А. Остерман возглавлял гарнизоны Украинской линии, а до этого с 1763 г. состоял при Московской дивизии. Военную карьеру закончил в чине генерал-поручика (1771). В 1773 г. Остерман принял предложение возглавить Московскую губернию. В 1776 г. собрал о губернии подробные статистические данные, на основании которых принималось решение о новых границах наместничеств[2].
В старости Остерман стал интересоваться вопросами православного вероучения. Составил письменные «Замечания на записки Манштейна о России». Ряд анекдотов об Остермане приводит князь Вяземский в «Старой записной книжке»[4]. Ещё в годы губернаторства Остерман славился необыкновенной рассеянностью. Его заместитель рассказывал потом,
как он однажды приехал в присутствие, имея вместо шляпы ночной горшок в руке; как принял одного знатного посетителя за одну барыню, обличал его в мотовстве и распутстве и грозил отдать в опеку и как в одном приятельском доме он хотел поднять хозяина на руки вместо внука его, удивляясь, отчего мальчик в неделю так потяжелеть мог[5].
Остерман женился на Анне Васильевне Толстой (15 февраля 1732 — 23 мая 1809), дочери статского советника Василия Борисовича Толстого и его жены, Дарьи Никитичны Змеевой. Она была награждена 05.04.1797 орденом св. Екатерины 2-й степени. Родилась и умерла в Москве, похоронена в Новоспасском монастыре.
Племянницей Анны Васильевны была Екатерина Львовна Тютчева, мать известного поэта. Во время приездов в Москву семья Тютчевых останавливалась в доме Остермана в Малом Трёхсвятительском переулке (угол Хитровского переулка). Здесь родилась сестра поэта Дарья и прошли его детские годы. Высказано предположение, что будущего поэта мать назвала в честь графа Остермана, которого почитала как отца[6]. Анна Васильевна впоследствии завещала городскую усадьбу Екатерине Тютчевой:
«Лета тысяча восемьсот шестого, февраля в пятыйнадесять день <…> дарю по смерти моей отставного гвардии корнета Ивана Николаевича Тютчева жене ево, а моей родной племяннице Катерине Львовне и наследникам её в вечное и потомственное владение собственныя благоприобретенныя мною три дома с принадлежащими ко оным землями <…> состоящия Мяснитской части перваго квартала, первыя два под номером пятидесятым, а третей под номером пятьдесят четвёртым со всею имеющеюся во оных домашнею принадлежностию, мебелью, серебром, вещами, платьем, бельем, посудою всякого рода, екипажами, лошадьми и конскими уборами, словом сказать, что ни есть во оных домах <…>».[7]