El club té les seves arrels en un club de criquet fundat el 1895, que més tard, en ampliar les seves seccions esdevingué Sport Club Erfurt. Fou membre fundador de la Federació Alemanya de Futbol l'any 1900 i el 1904 ingressà a la Verband Mitteldeutscher Ballspielvereine (Lliga de Futbol d'Alemanya Central). Guanyà el campionat la temporada 1908-09 i arribà a les semifinals del campionat alemany. A partir de 1933 jugà a la Gauliga Mitte. Després de la II Guerra Mundial tots els organismes alemanys foren dissolts.
El 1946 nasqué el SG Erfurt West. L'any 1948 arribà a la final del campionat de Turíngia i l'any següent s'hi proclamà campió. Esdevingué Fortuna Efurt el 1949, KWU Erfurt el 1950 i BSG Turbine Erfurt el 1951. Els anys 1954 i 1955 s'adjudicà consecutivament la lliga de la RDA. Les dècades següents pujà i baixà entre Primera i Segona divisió. El 1965 es convertí en SC Turbine Erfurt i un any més tard es fusionà amb BSG Optima Erfurt esdevenint FC Rot-Weiß Erfurt. El 1980 arribà a la final de la Copa de la RDA perdent amb el FC Carl Zeiss Jena (3-1).