L'église initiale subit un incendie en 1385 et fut reconstruite au cours du XVe siècle[3]. Diverses chapelles furent ajoutées au cours des ans, augmentant ainsi la taille de l'édifice[2]. En 1466, Saint-Gilles devint une église collégiale. La tour-lanterne fut ajoutée vers 1490.
Le , à l'apogée de la Réforme écossaise, le conseil d'Édimbourg installa le réformant John Knox comme prêtre de Saint-Gilles. Il y fut enterré en 1572. Il est commémoré par un vitrail au XIXe siècle placé dans le mur sud de l'église et depuis 1904 par une statue de bronze côté nord.