Zijn loopbaan als dirigent begon in Bielsko-Biała waarna hij de opera van Keulen dirigeerde (1894-1896) en vervolgens lange tijd die van Breslau (1896-1923). Tussen 1924 en 1933 dirigeerde hij veelvuldig de Berliner Philharmoniker. In 1933 was hij gedwongen Duitsland te verlaten waarna hij in Rusland en Oostenrijk dirigeerde. Uiteindelijk vertrok hij naar New York waar hij tot zijn overlijden bleef.