Gitaristene Gary Moore og Michael Schenker var viktige inspirasjonkilder for unge Sykes, som i 1982 skulle bli oppdaget av Phil Lynott, for så å bli en del av soundet til den siste utgaven av Thin Lizzy. Det var Lynott som foreslo at unge Sykes skulle gjøre som han selv, nemlig bytte ut det originale plekterbrettet av plast på sin gitar til et av speil. Dette skulle bli et av Sykes kosmetiske varemerker.
På begynnelsen av 1980-tallet spilte Sykes i bandet Badlands med sin kommende Whitesnake-kollega, bassisten Neil Murray (dette bandet må ikke blandes sammen med eks-Ozzy Osbourne-gitarist Jake E. LeesBadlands). Sykes ble rekruttert til Whitesnake i 1984, da David Coverdale hadde fått råd av sin produsent og platebransje-guru, John Kaldoner om å sparke de daværende gitaristene Micky Moody og Mel Galley, for så å skaffe seg en gitarist av mer virtuost kaliber. Valget falt på John Sykes.
Sykes spilte på Whitesnakes mest sukksessrike album Whitesnake fra 1987, som inneholdt hitsinglene Is This Love? og Here I Go Again, samt Crying in the Rain og Still of the Night. På denne innspillingen benyttet Sykes seg av to Mesa/Boogie Coliseum «heads» (gitar forsterkere) og sin favoritt GibsonLes Paul Custom gitar. Gjennom sitt bidrag på dette albumet rakk Sykes å bli en av de mest innflytelsesrike gitarister på 1980-tallet.
Sykes rakk aldri å turnere med Whitesnake på 1987-turnéen, da han ikke kom overens med Coverdale, noe som endte med at Sykes forlot bandet. Han ga ut i 1989 albumet Blue Murder, sammen med Carmine Appice på slagverk og Tony Franklin på bassgitar, hvor Sykes også er vokalist.
Sykes gjorde en eksklusiv opptreden med keyboardisten Derek Sherinians soloalbum fra 2004 Mythology, der han spilte ved siden av Zakk Wylde på sporet «God of War».
I 2006 fikk han sin egen signatur Gibson Les Paul Custom som var modellert etter hans favorittgitar. Denne gitaren brukte han på hele sin turné med Thin Lizzy i 2007. Turnéen var ment som en hyllest til hans gode venn og mentor, Phil Lynott (1949–1986).[trenger referanse]
