Han ble valgt inn i Volksraad som en representant for Wakkerstroom på 1860-tallet, samtidig som Marthinus Wessel Pretorius var inne i sin andre runde som president. Ved senere valg steg han i gradene, og i 1875 fungerte han som president mens Thomas François Burgers befant seg i Europa.
Under den første britiske annekteringen av Transvaal, fikk Joubert et rykte på seg for å være uforsonlig, etter at han gjentatte ganger nektet å sitte i en ledende stilling under styresmaktene som da var, i motsetning til Paul Kruger og andre fremtredende boere.[trenger referanse] Istedenfor å ta den lukrative stillingen han ble tilbudt, tok han heller en ledende rolle i motstandsbevegelsen som senere førte til krigen i 1880-1881. Han ble deretter general i boerstyrkene, og et medlem i triumviratet som ledet og administrerte den provisoriske regjeringen som kom på plass i desember 1880 i Heidelberg.
