Kotovsk ble grunnlagt før andre verdenskrig som en bosetning for arbeidere som var engasjert i forbindelse med byggingen av en kruttfabrikk. Til å begynne med var den en del av Tambov kalt Porokhovoj Zavod (russisk: Порохово́й Заво́д, oversatt: Kruttfabrikk). Bydelen ble etter hvert omgjort til en egen by kalt Krasnyj Bojevik (russisk: Кра́сный Боеви́к, oversatt: Rød kriger). I 1940 fikk stedet bystatus og fikk samtidig også nytt navn, Kotovsk, etter Grigorij Kotovskij (1881–1925), som hadde slått ned et antisovjetisk bondeopprør i Tambov i 1921.