Kahn werd geboren in een arme Joodse familie op het Estische eiland Saaremaa, wat toen nog onderdeel was van het Keizerrijk Rusland. Op driejarige leeftijd kreeg hij een ongeluk waardoor hij brandwonden opliep op zijn handen en gezicht. Een jaar later emigreerde zijn familie naar de Verenigde Staten. Op dertienjarige leeftijd kreeg hij de Amerikaanse nationaliteit.