Erps-Kwerps bestaat historisch uit twee aparte kernen: Erps en Kwerps (vroeger Querbs, iets later Querps). Kwerps ligt even ten oosten van Erps. Op de Ferrariskaarten worden beide dorpen aangeduid als twee verschillende parochies. Vandaag zijn beide kernen aan elkaar gegroeid, maar beide beschikken wel nog over een eigen kerk en centrum.
De Sint-Amanduskerk van Erps is gebouwd in een neogotische stijl en is beduidend groter dan de Sint-Pieterskerk.
Het oude gemeentehuis aan het Dorpsplein van Erps werd gebouwd in 1875 naar een ontwerp van de architect Alexander Van Arenbergh uit Leuven. Tegenwoordig (2020) wordt het gebouw gebruikt als groepspraktijk voor fysiotherapie.
De waterburcht 'Hof ter Brugge' ligt op de grens van Erps en Kwerps en de huidige gebouwen dateren uit de 17de eeuw. De poorttoren is 18de-eeuws in een stijl die verwant is met het Franse classicisme: baksteen en zandsteen wisselen elkaar evenwichtig en sierlijk af. Het U-vormige complex was oorspronkelijk volledig met een gracht omringd, maar die werd in de 19de eeuw grotendeels gedempt. Het Hof ter Brugge is beter bekend als 'het Rattenkasteel' uit het gelijknamige Nero-album van Marc Sleen.
↑Oudiette, Ch. (an VII). Erps[dode link]. In Le département de la Dyle ou première partie du dictionnaire géographique et topographique des neuf départemens de la Belgique. (p. 53). Bruxelles: Armand Gaborria.
.svg){kind=small}
