Происходил из дворянского рода Танеевых. Родился 18 (29) декабря 1785 года — сын Сергея Михайловича (1749—1825) и Екатерины Николаевны (1762—1833) Танеевых.
Получил домашнее образование, а затем учился в разных пансионах. Начав службу гвардии подпоручиком, в 1800 году перешёл в Императорский кабинет. В 1808—1810 годы — переводчик департамента Министерства военно-сухопутных сил, секретарь военного министра графа А. А. Аракчеева. Когда в 1812 году была учреждена императорская канцелярия, Танеев был переведён туда; в 1812—1814 годах состоял при Главной квартире действующей армии; был в свите императора Александра I, сопровождал его в поездках в Карлсруэ, Брюссель и Лондон. В 1814 году присутствовал на Венском конгрессе, находясь при статс-секретаре В. Р. Марченко, а в 1818 году на Аахенском конгрессе состоял при императоре Александре I. С 1820 года был помощником статс-секретаря Департамента военных дел Государственного совета.
В ноябре 1831 года был пожалован в статс-секретари Е. И. В. и назначен управляющим 1-м отделением Собственной канцелярии; занимал эту должность около 35 лет, до конца жизни. С 1839 года состоял членом Комитета по крестьянским делам.
В 1846 году ему было поручено составить проект образования Инспекторского департамента, в который он и был назначен главноуправляющим; и, одновременно, председателем Особого комитета по вопросу об удалении со службы неблагонадежных чиновников.