Ngeny diventa famoso nel 1997 quando stabilisce due record mondiali juniores: 3'32"91 nei 1500 metri a Monaco e 3'50"41 nel miglio a Nizza. Sotto la guida del suo allenatore Kim McDonald, la sua progressione continua nel 1998, migliorando fino a 3'30"34 nei 1500 metri.
Il 7 luglio 1999 al Golden Gala di Roma, Ngeny è secondo dietro ad Hicham El Guerrouj quando questi stabilisce il record mondiale del miglio (3'43"13). Ngeny fu vicino ad El Guerrouj fino all'arrivo, chiudendo in 3'43"40, ancora oggi seconda prestazione mondiale di sempre.
Il 24 agosto dello stesso anno Ngeny conquista la medaglia d'argento nei 1500 m ai campionati mondiali di Siviglia con il tempo di 3'28"73, dietro ad El Guerrouj (3'27"65). Il 5 settembre seguente Ngeny stabilisce a Rieti in 2'11"96 l'attuale record mondiale dei 1000 metri, battendo un primato vecchio di 18 anni, che apparteneva al britannico Sebastian Coe con 2'12"18.
L'anno seguente Ngeny stabilisce il nuovo record keniota dei 1500 metri, correndo in 3'28"12 al meeting Weltklasse Zürich, in una gara vinta da El Guerrouj in 3'27"21. Il record nazionale stabilito da Ngeny verrà migliorato l'anno successivo da Bernard Lagat in 3'26"34 al meeting di Bruxelles.
Il 29 settembre 2000 nella finale dei 1500 dei Giochi olimpici di Sydney, Hicham El Guerrouj viene sconfitto per la prima volta in quattro anni: a spuntarla è proprio Ngeny, che supera il campione marocchino a 15 metri dall'arrivo. Ngeny in quell'occasione stabilisce anche il record olimpico con 3'32"07,[1] migliorando il precedente di Sebastian Coe, 3'32"53, risalente al 1984.
Sempre nel 2000 Ngeny realizza un altro record personale, con 1'44"49 negli 800 metri corsi il 28 luglio ad Oslo. Il 22 novembre 2006 Ngeny ha annunciato ufficialmente il suo ritiro dalle competizioni.[2]
Record nazionali
Seniores
1000 metri piani: 2'11"96 (Rieti, 5 settembre 1999)