L'origine della città risale al 1636, quando fu fondata per decreto dello zarMichail Fëdorovič Romanov come fortezza per presidiare il confine tra il Granducato di Mosca e il territorio dei Tatari di Crimea; dopo poco tempo divenne preponderante il suo ruolo come centro di commercio. Al 1781 risale il suo curioso stemma comunale, che rappresenta un alveare che dovrebbe simboleggiare, a quanto pare, l'operosità dei residenti. Dal 1796 al 1937 fu capoluogo dell'omonimo Governatorato.
Nel 1920 fu teatro di una delle più grandi insurrezioni contadine nei confronti delle autorità sovietiche. I contadini si ribellarono alla leva obbligatoria, alle requisizioni forzate dei cereali da parte dell’Armata Rossa e all’ammasso coatto del raccolto nei depositi statali.Ridotti all'indigenza, i contadini organizzarono una rivolta, che durò ben undici mesi, prima di venire sconfitta (1921).[senza fonte].
Durante la seconda guerra mondiale fu un'importante città situata in una posizione strategica rispetto allo scenario di guerra e sede di campi di prigionia sovietici ove furono internati migliaia di prigionieri italiani, durante la campagna di Russia.[2]
Al giorno d'oggi Tambov è un importante centro industriale e culturale, sede di teatri, gallerie d'arte e università.