Tanulmányait a berlini Stern-féle konzervatóriumban végezte. Operakarmesterként helyezkedett el. Pályájának első állomásai: Köln, Hamburg, Breslau, Pozsony, Riga, Berlin. 1901–1912 folyamán Bécsben udvari karnagy volt, Mahler irányítása alatt; ő vezette a Singakademie-t is. 1913-ban Felix Mottl utódaként Münchenben főzeneigazgató lett. Itt különösen Mozart-előadásaival szerzett világhírt. Miután 1922-ben megvált állásától, sokat utazott. Főleg Hollandiában, Belgiumban, Svájcban, Olaszországban és Franciaországban vendégszerepelt sokat. Budapesten is dirigálta a Mozart-ciklust a Népoperában. 1925-től Berlin-Charlottenburgban a Städtische Oper igazgatójaként, majd 1929 - 1930-tól a lipcseiGewandhaus-zenekarnál dolgozott. 1933-ban Bécsbe emigrált, ahol a Staatsoper karnagya lett. Ausztria náci megszállása után Párizsba ment; megkapta a francia állampolgárságot. 1939-ben az Amerikai Egyesült Államokba költözött, ahol vezető szimfonikus zenekarok, így 1947-től a New York-i Filharmonikusok vezető karnagya volt. 1940 óta amerikai állampolgár volt. 1948-tól szerepelt ismét Európában.