Scholz Bundestageko kidea izan zen 1998tik 2011ra, eta Hanburgoko gobernuko kide izan zen 2001ean, Ortwin Runde lehen alkatearen pean, 2002an SPDko idazkari nagusi hautatu aurretik, Gerhard Schröder SPDko buruzagi eta kantzilerraren agintaldian. 2004. urtean idazkari nagusi gisa dimisioa eman ondoren, bere alderdiko whip buru bihurtu zen Bundestagen, eta gero Merkelen lehen gobernua sartu zuen 2007an, Lan eta Gizarte Gaietako ministro gisa. SPDk 2009ko hauteskundeen ondoren gobernua utzi ondoren, Scholzek berriro zuzendu zuen SPDa Hanburgon, eta SPDko lehendakariorde ere hautatu zuten. 2011ko hauteskundeetan garaipenera eraman zuen bere alderdia, eta lehen alkate bihurtu zen, 2018ra arte kargu horretan.
SPDa Merkelen 2018an Laugarren Gobernuan sartu ondoren, Scholz Finantzetako ministro eta Alemaniako lehendakariorde izendatu zuten. 2019an, Scholz Brandeburgo estatuko parlamentari ohiarekin, Klara Geywitzekin, dupla batean postulatu zen SPDren lidergo dual sartu berrirako. Lehen txandan boto gehien lortu arren, bigarren itzulian botoen %45 galdu zuen bikoteak, Norbert Walter-Borjans eta Saskia Esken irabazleen aurrean.[1] Ondoren, lehendakariorde karguari uko egin zion.