Był dwukrotnym mistrzem Rosji; w latach dwudziestych odniósł serię spektakularnych sukcesów w bardzo silnych turniejach szachowych. W 1922 wyprzedził Alechina na turnieju w Pieszczanach, rok później podzielił pierwsze miejsce w Karlowych Warach. Zajął pierwsze miejsce na turnieju w Moskwie w 1925, wyprzedzając m.in. Emanuela Laskera, Jose Raula Capablankę i Akibę Rubinsteina. Na turnieju w Bad Kissingen (1928) w pokonanym polu pozostawił Capablankę i Maksa Euwego.
W 1926 Bogolubow pozostał w Niemczech, odmawiając powrotu do ZSRR, był drugim po Alechinie wielkim szachowym dysydentem. Na olimpiadzie szachowej w Pradze w 1931 był już liderem reprezentacji Niemiec; wynikiem (+9 -1 =7) zdobył srebrny medal na pierwszej szachownicy. Doskonałe występy w międzynarodowych turniejach doprowadziły go do meczów o mistrzostwo świata, w których musiał jednak uznać wyższość ówczesnego mistrza świata Alechina. Pierwszy mecz w 1929 zakończył się porażką Bogolubowa (+5 -11 = 9), w rewanżu w 1934 padł wynik (+3 -8 =15).
