Romantsev, meestal spelend als centrale verdediger, won de Pervaja Liga met Spartak Moskou in 1977. Dat was destijds de tweede hoogste divisie in de toenmalige Sovjet-Unie. Twee jaar later, in 1979, werden Spartak en Romantsev kampioen van de hoogste Top League, voor FK Sjachtar Donetsk uit het huidige Oekraïne. Dit was indertijd de 10e landstitel uit het bestaan van Spartak Moskou. Hij verloor in 1981 met Spartak Moskou de bekerfinale van de Sovjet-Unie met 0–1 tegen SKA Rostov aan de Don.
In 1983 beeïndigde Romantsev zijn loopbaan als speler en begon aan wat een rijkgevulde carrière als coach zou worden. Hij werd gedurende de jaren negentig van de 20e eeuw maar liefst acht keer landskampioen van Rusland (Premjer-Liga) als trainer van Spartak Moskou, waarmee hij ook als speler succes boekte. Daarnaast won hij zes keer de GOS-beker, een keer de Beker van de Sovjet-Unie en drie keer de Russische voetbalbeker met Spartak Moskou. Oleg Romantsev geldt bij de club uit de Russische hoofdstad dan ook als een clubicoon.[3]
Vijf jaar later, in 2001, kwalificeerde Rusland zich onder Romantsevs leiding alweer voor een groot landentoernooi: het wereldkampioenschap voetbal 2002.[4] Romantsev had Anatolij Bysjovets in 2000 in feite met veel tegenzin afgelost nadat Bysjovets er niet in geslaagd was Rusland naar het Europees kampioenschap voetbal 2000 in Nederland en België te loodsen. Men overtuigde Romantsev om terug te keren als bondscoach. Op het WK 2002 in Japan en Zuid-Korea was de groepsfase echter meteen het eindstation. België en dan met name aanvoerder Marc Wilmots diende de doodsteek toe met een 3–2 zege.[5] Romantsev zei nog lang voor zijn tweede aanstelling: "Ik kan niets bereiken in ons [Russisch] voetbalmilieu."[6]
Tijdens de latere stadia van zijn trainerscarrière was Romantsev coach van Satoern Ramenskoje (2003–2004) en Dinamo Moskou (2004–2005).