Formé au RWD Molenbeek[1], Franky Van der Elst est devenu un des monuments du FC Bruges[2] et du football belge en général. Il dispute 567 matchs en division 1 (dont 461 avec Bruges, un record), 78 matchs de coupe d'Europe, 65 matchs de coupe de Belgique et 8 supercoupe. Il est également sélectionné 86 fois avec les diables rouges. Il dispute quatre coupes du monde en 1986, 1990, 1994 et 1998[3]. Il remporte également à deux reprises le Soulier d'or en 1990 et 1996 qui récompense le joueur de l'année dans le championnat de Belgique.
En 1999, il met un terme à sa carrière de footballeur et devient entraîneur. En 2005, il revient au FC Bruges comme entraîneur assistant. Le , il est remercié à la suite des mauvais résultats du club.
Il entraîne ensuite le FCM Brussels S de janvier à juin 2008, puis le KVSK United de juillet 2009 à juin 2011. Le , il est engagé par Saint-Trond (qui après un départ calamiteux s'est séparé de Guido Brepoels).
Cependant, il ne parvient pas à maintenir le club en Jupiler Pro League et met fin à sa collaboration avec le club.
Le , il devient le nouvel entraineur du KSV Roulers[4]. En 2016, il annonce son retrait de ce poste[5].
Il devient plus tard l'adjoint de Gert Verheyen chez les U19 belges avant de le suivre au KV Ostende, toujours en tant qu'adjoint, pour la saison 2018-2019.