Klein debuttò nella MLB con i Philadelphia Phillies nel 1928 e l'anno seguente guidò la National League in fuoricampo 1929. Nel 1930 disputò una delle migliori stagioni in attacco nella storia del baseball, con una media battuta di .386, 250 valide e 158 punti segnati, tutti record in carriera. Stabilì anche i record stagionali di franchigia, tutti ancora imbattuti, con 59 doppi, 170 punti battuti a casa (RBI), .687 di media bombardieri e 445 basi totali. Da allora, nessuna ha più raggiunto tante basi totali. Le sue 107 battute da extra base sono un record della National League, pareggiato da Barry Bonds nel 2001. Quell'anno giocò ad alto livello anche in difesa, con 44 assistenze che sono ancora un record per un esterno destro. Nel 1932, Klein guidò la NL sia in fuoricampo che in basi rubate, cosa mai più riuscita da allora a nessun giocatore nella MLB, venendo premiato come MVP della National League.[1] Nel 1933 Klein vinse la Tripla corona (con .368 in battuta, 28 fuoricampo e 120 RBI), ma il premio di MVP andò a Carl Hubbell. Quell'anno fu convocato per il primo All-Star Game della storia.
Scambiato con i Chicago Cubs prima della stagione 1934, Klein non ebbe prestazioni all'altezza degli anni precedenti, ma batté comunque 20 e 21 fuoricampo in due stagioni nell'Illinois, diventando il primo giocatore a venire convocato per l'All-Star Game con due diversi club. Tornato ai Phillies, il 10 luglio 1936 divenne il primo giocatore della NL a battere 4 fuoricampo in una partita nel ventesimo secolo. Rimane uno dei soli 16 giocatori della storia del baseball ad avere compiuto tale impresa.
