Whyte begon zijn loopbaan in 1985 bij Celtic. Met de Hoops won hij de Schotse landstitel in 1986 en 1988 alsmede twee maal op rij de Scottish Cup in 1988 en 1989. In 1992 verliet hij Glasgow na zeven seizoenen en verhuisde naar Engeland, waar hij een contract tekende bij de eersteklasser Middlesbrough.[2] Boro werd zijn enige werkgever buiten Schotland. In 1993 degradeerde hij met de club uit de nieuwe Premier League. Lang hoefde men niet te wachten op een retourticket.
Derek Whyte was tussen 1987 en 1999 meermaals international in het Schots voetbalelftal. Hij maakte deel uit van de selecties op EURO 1992 in Zweden, EURO 1996 in Engeland, en het wereldkampioenschap voetbal 1998 te Frankrijk. Whyte, die nooit basisspeler was, droeg uiteindelijk twaalf keer het marineblauwe Schotse shirt. Scoren deed hij evenwel niet.