Va aprendre a jugar a escacs als 6 anys, ensenyat pel seu pare. Va obtenir el títol de Mestre Internacional el 1986, i el de GM el 1990, fent un excepcional resultat en quedar en primer lloc a l'Obert de Nova York d'aquell any, per davant d'un grup de forts jugadors.[2]
Tot i que roman inactiu des de novembre de 2019, a la llista d'Elo de la FIDE del maig de 2022, hi tenia un Elo de 2608 punts, cosa que en feia el jugador número 34 de Rússia.[3] El seu màxim Elo va ser de 2702 punts, a la llista d'octubre de 2001 (posició 15 al rànquing mundial).[4]
El seu èxit més notable fou guanyar el torneig pel Campionat del món de la FIDE de 1999 celebrat a Las Vegas,[10] en què va guanyar a la final l'armeni Vladímir Akopian, de manera que va convertir-se oficialment en Campió del Món, títol que va mantenir durant un any, fins que el va perdre l'any 2000 al següent torneig pel campionat, celebrat a Nova Delhi, al qual hi participà però fou eliminat a quarts de final per qui seria el següent campió, Viswanathan Anand. En aquell moment, era només el número 44 del món en la Llista Elo de la FIDE,[11] cosa que va comportar moltes comparacions desfavorables amb el Campió del Món “clàssic” Garri Kaspàrov, que era el número 1 a la mateixa llista. Khalifman va dir en aquell moment, "El sistema d'avaluació Elo funciona avantatjosament per als jugadors que juguen només en torneigs tancats per sistema round robin, i penso que els seus rànquings estan sobrevalorats.
Els organitzadors conviden la mateixa gent una vegada i una altra, perquè tenen un rànquing alt, i com que només juguen entre ells, el seu rànquing es manté sempre elevat."[12] Potser a causa d'aquests comentaris, en Khalifman va ser convidat al següent Torneig de Linares, i va tenir una actuació bastant raonable, (quarta posició, a un punt i mig del campió, Kaspàrov).[13]
Ha guanyat, a més, entre d'altres, els torneigs de Groningen 1990, Ter Apel 1993, Obert d'Eupen 1994, Obert de St. Peterburg 1995, 49è Campionat d'escacs de Rússia (Elistá) 1996,[14] Torneig de Mestres de St. Peterburg 1997, Aarhus 1997, Campionat del món per equips de Lucerna 1997,[15] Bad Wiessee 1998, Hoogenveen 2000, i, formant part de l'equip rus com a primer tauler, la XXXIV Olimpíada d'escacs, a Istanbul 2000.