Hij studeerde in zijn geboorteplaats en later bij Carl Flesch in Berlijn. Zijn solodebuut maakte hij in 1933 met het Vioolconcert van Johannes Brahms. Van 1933 tot 1939 studeerde hij compositie in Parijs bij Nadia Boulanger en gedurende de Tweede Wereldoorlog werkte hij als vertaler voor de Poolse regering in ballingschap (Szeryng sprak zeven talen vloeiend) en gaf concerten voor de geallieerde troepen over de hele wereld. Gedurende een van die concerten in Mexico-Stad kreeg hij het aanbod om het strijkersdepartement van de universiteit aldaar over te nemen. Hij accepteerde het aanbod en werd Mexicaans staatsburger in 1946.
Aanvankelijk gaf Szeryng viool- en compositieles, maar in 1954 keerde hij terug naar de concertpraktijk. Zijn debuut in 1954 in New York was de opstap voor wereldtournees die hij daarna voor de rest van zijn leven veelvuldig maakte. Zijn benadering van muziek is doorgaans doordacht, pretentieloos en met respect voor de componisten die hij vertolkt. Zijn muzikale nalatenschap maakt deel uit van wat gerekend wordt tot de tijd van de grootste violisten van de 20e eeuw.
Szeryng nam diverse werken op, waaronder twee van de vioolsonates van Bach, en diverse sonates van Beethoven en Brahms, met pianist Arthur Rubinstein. Hij componeerde ook werken voor kamermuziek en een paar vioolconcerten.
Hij bezat de Guarneri 'Del Gesu' viool "Le Duc" en de Stradivarius "King David". De eerste viool was het instrument dat hij het meest gebruikte bij zijn opnamen, de laatste doneerde hij later aan de staat Israël.