Gimpel a été l'un des premiers Européens-des artistes Américains de retour en Europe après la seconde Guerre Mondiale; il a joué des centaines de concerts en Allemagne de l'Ouest en 1954. De 1971 à 1986, Gimpel est professeur en résidence à la California State University, Northridge (CSUN). Il a reçu l'Ordre du mérite de Première Classe de l'Allemagne de l'Ouest, et, en 1975, le prix Ben-Gourion de l'État d'Israël.
Le à Los Angeles, un récital est prévu en commun avec Gimpel et son frère Bronislav Gimpel. Bronislav est mort subitement, quelques jours avant le concert et Jakob a joué un récital à la mémoire de son frère.