Belarusda kəndli ailəsində altıncı uşaq olaraq anadan olmuş, kənd məktəbini bitirmişdir. 1930-cu illərdə bir fabrikdə, ardınca isə Makaryevski kənd məclisində bölmə müavini olaraq işləmişdir. O, 1932-ci ildə Orşa məktəbində iki kursdan sonra məzun olmuşdur.
Hərbi xidməti
Müharibəyə qədər
1932-ci ildə Qızıl Orduya daxil olmuş, 1934-cü ildə Minskdə yerləşən Mixail Kalinin adına Belarus birliyi hərbi məktəbindən məzun olmuş və Vitebskdə yerləşən 27-ci Omsk Atıcı Diviziyasında təlim komandiri vəzifəsində xidmət etmişdir.
1935-ci ildə Leninqradda yerləşən təlim kurslarını başa vurmazdan əvvəl bir çox fərqli hərbi hissələrdə təlim batalyonu komandiri olmuşdur. O, 1939-cu ilin sentyabrında Polşaya hücum zamanı və 1939-1940-cı illər SSRİ-Finlandiya müharibəsi zamanı Belarus cəbhəsində tank birliyində komandir vəzifəsində xidmət etmişdir.
İkinci dünya müharibəsi
Yakubovski bu müharibəyə ölkənin qərb cəbhəsində tank batalyonunun komandiri vəzifəsində başlamış və Belarus ərazisində çox vacib müdafiə döyüşlərində iştirak etmişdir. Onun rəhbərliyi altında olan birlik Minsk şəhərinin son müdafiəçiləri idi və bu şəhər uğrunda sona qədər mübarizə aparmışdılar. 1941-ci il dekabrın sonunda o, 121-ci tank briqadasının tank alayının komandiri, sonra isə ayrıca 121-ci tank briqadasının komandir müavini təyin edildi (1942-ci ilin yanvarı) və 91-ci Tank Briqadasının komandiri olaraq Barvinkivske-Lozova istiqamətində hücum əməliyyatında iştirak etmişdir. 1942-ci ilin yayında Donbass bölgəsində müdafiə döyüşlərində fərqlənmiş və Stalinqrad döyüşünün müdafiə və əks-hücum fazalarında aktiv iştirak etmişdir. Cənubi və cənub-qərbi Stalinqrad və Don cəbhələrində göstərdiyi şücaətə görə, 30 noyabr 1942-ci ildə polkovnik rütbəsinə yüksəlmişdir.
1943-cü ilin payızında Mərkəz cəbhəsinə göndərilmiş və burada 3-cü Tank Ordusu sıralarında döyüşmüşdür. O, briqada komandiri kimi Voronej, Bryansk, 1-ci Ukrayna cəbhəsi, Kursk və Dnepr döyüşləri, Kiyev və Fastivin azadlığı uğrunda gedən döyüşlərdə qəhrəmanlıq göstərmişdir. Fastiv şəhərində təkcə bir gün ərzində 30 düşmən tankını məhv etdiyi üçün Sovet İttifaqı Qəhrəmanı adına layiq görülmüşdür. 1944-cü ilin payızında tank briqadasının komandiri kimi Proskurovo-Çernivtsi istiqamətində uğurlu hücum əməliyyatına rəhbərlik etmişdir.
1944-cü ilin iyun ayında 3-cü Tank Ordusunun tərkibində fəaliyyət göstərən 6-cı Tank Korpusuna komandir müavini təyin olunmuşdur. 1945-ci ilin yanvarında Vistula-Oder hücum əməliyyatında iştirak etmişdir. 23 sentyabr 1944-cü ildə Lvov-Sandomierz əməliyyatında göstərdiyi qəhrəmanlığa görə, ikinci dəfə Sovet İttifaqı Qəhrəmanı adına layiq görülmüşdür. 1945-ci ilin aprelindən etibarən 3-cü Tank Ordusunun tərkibində fəaliyyət göstərən 7-ci Tank Korpusuna komandir müavini təyin olunmuş, Berlin və Praqa əməliyyatlarında iştirak etdikdən sonra 20 aprel 1945-ci il tarixində general-mayor rütbəsinə yüksəlmişdir.
Soyuq müharibə
Müharibə başa çatdıqdan sonra Leninqrad Hərbi Dairəsində tank korpusuna komandir müavini təyin olunmuşdur. O, 1948-ci ildə General heyəti üçün Hərbi Akademiyadan məzun olmuşdur. 1948-ci ilin martında Belarus Hərbi Dairəsində zirehli diviziyanın komandiri təyin olunmuş, sonradan 1952-ci ildə Karpat Hərbi Dairəsində zirehli və mexanikləşdirilmiş birləşməyə komandir təyin olunmuşdur. 1953-cü ilin mayında general-leytenant rütbəsinə yüksəlmiş və tank ordusuna komandir təyin olunmuşdur.
1957-ci ilin iyul ayında Almaniyada yerləşən Sovet Qoşunlarının Komandirinin birinci müavini təyin olunmuş və bir ildən sonra, yəni 1958-ci ildə general-polkovnik rütbəsinə yüksəlmişdir. 1960-cı ildə Almaniyada yerləşən Sovet Qoşunlarına komandir təyin olunan Yakubovski, 1961-ci ildə Berlin böhranı baş verən zaman da bu postda fəaliyyət göstərirdi. Böhran dövründə, 1961-ci ilin avqust ayında Almaniyada yerləşən Sovet Qoşunlarının baş komandiri İvan Konyev Sovet İttifaqının Marşalı elan olunduqdan sonra, Yakubovski onun müavini vəzifəsinə təyin olunmuşdur. 1962-ci ilin aprelində vəziyyət stabilləşdikdən sonra Ordu Generalı Yakubovski yenidən əvvəlki vəzifəsinə qayıtmışdır. O, 1965-ci ilin yanvarında Kiyev Hərbi Dairəsinin komandanı vəzifəsinə təyin olunmuşdur.
12 aprel 1967-ci ildə Sovet İttifaqının Marşalı rütbəsini qazanmış və SSRİ Müdafiə nazirinin birinci müavini vəzifəsinə təyin olunmuş, elə həmin ilin iyul ayından etibarən isə Varşava Müqaviləsi Təşkilatına komandan təyin olunmuşdur.