Szergej Szokolov parancsnoki tisztet töltött be 1965-től 1967-ig a leningrádi katonai körzetben és az első védelmi miniszter 1967 és 1984 között. Szokolovot előléptették a Szovjetunió marsalljává 1978-ben.
A Szovjetunió afganisztáni háborújában 1979. december 27-én személyesen vezette a szovjet szárazföldi erőket. Tettei és parancs stratégiái által a Szovjetunió egyik legelismertebb marsalljaként tartják számon.
1980. április 28-án kitüntették mint a Szovjetunió hőse. Szergej Szokolov a Szovjetunió védelmi minisztere volt 1984-től 1987-ig. Mihail Gorbacsov mozdította el pozíciójából.
1992-től Szokolov Oroszország védelmi miniszterének tanácsadójaként szolgált. 2001. júliusában az Érdemes Krími Ember (Pocsotnij Krimcsanyin) címet kapta meg, 2004-ben Jevpatorija város díszpolgára lett.
Századik életévének betöltésénél kijelentette: "A katonai szolgálat presztízse visszanyeri egykori jelentőségét". Nagyon sok kitüntetést kapott. 2011. június 23-án az I. Sándor vlagyimiri nagyfejedelem érdemkeresztet vehette át.