Müller oli lähtöisin keskiluokkaisesta kuohuviinitehtailijan perheestä ja kouluttautui kauppiaan uraa varten. Hän liittyi sosiaalidemokraattiseen puolueeseen vuonna 1893 ja ryhtyi vuonna 1899 puolueen lehden toimittajaksi Görlitzissä.[1][2][3] Hän kuului vuosina 1903–1906 Görlitzin kaupunginvaltuustoon.[1] Hänet valittiin vuonna 1906 August Bebelin aloitteesta SPD:n puoluetoimikuntaan, jossa hän pysytteli maltillisella keskilinjalla puolueen oikeisto- ja vasemmistosiipien välissä.[1][2] Müller erikoistui SPD:n kansainvälisiin suhteisiin ja edusti puoluetta monissa sosialististen puolueiden kongresseissa.[1][3] Hänet lähetettiin heinäkuussa 1914 Ranskaan neuvottelemaan Saksan ja Ranskan sosialistien yhteisestä sodanvastaisesta rintamasta, mutta neuvottelut eivät johtaneet mihinkään, ja ensimmäisen maailmansodan puhjettua puolueet asettuivat omien maidensa sodankäynnin tueksi.[2][1] Myös Müller tuki sodan aikana SPD:n linnarauhapolitiikkaa. Hänet valittiin vuonna 1916 täytevaalissa Saksan valtiopäiville. Vuoden 1918 vallankumouksen yhteydessä hänet valittiin Suur-Berliinin työläis- ja sotilasneuvostojen keskusneuvostoon.[1]
Sosiaalidemokraattien saatua vaalivoiton toukokuun 1928 vaaleissa Müller muodosti 28. kesäkuuta 1928 uuden hallituksen, joka perustui SPD:n, keskustapuolueen, Saksan demokraattisen puolueen (DDP) ja Saksan kansanpuolueen (DVP) yhteistyöhön eli niin sanottuun suureen koalitioon. Müllerin toisen hallituksen suurin saavutus oli maailmansodan voittajavaltioiden kanssa neuvoteltu Youngin suunnitelma, joka kevensi sotakorvausten Saksan kansantaloudelle aiheuttamaa taakkaa. Hallitus aloitti myös Saksan laivaston uudelleenrakentamisen. Müllerin hallitus kaatui maaliskuussa 1930 vain kaksi viikkoa sen jälkeen kun valtiopäivät olivat hyväksyneet Youngin suunnitelman, sillä suuren talouslaman alettua sosiaalidemokraatit eivät päässeet muiden hallituspuolueiden kanssa yhteisymmärrykseen työttömyyskorvausten nostamisesta.[1][2] Äärioikeistolaisen kansallissosialistisen puolueen (NSDAP) saatua voiton syyskuun 1930 vaaleissa Müller määräsi sosiaalidemokraatit tukemaan oppositiosta Heinrich Brüningin oikeistohallitusta. Müller kuoli maaliskuussa 1931 sappikivileikkauksen aiheuttamiin komplikaatioihin.[1]