Stahl werd geboren als Jacob Morris Stelitsky in Bakoe in Azerbeidzjan. Hij emigreerde als kind naar New York met zijn ouders. Hij begon er in 1914 te werken in de opkomende filmindustrie. In de jaren 20 ondertekende hij een contract bij Louis B. Mayer in Hollywood. In 1927 was Stahl een van de 36 stichtende leden van de AMPAS. Tussen 1927 en 1930 was hij de directeur van de onafhankelijke studio Tiffany-Stahl Pictures. Meerdere films van Stahl werden genomineerd voor een Oscar.
Stahl stierf op 63-jarige leeftijd aan de gevolgen van een hartaanval.