Oliverio Rincón cominciò a pedalare all'età di dodici anni, quando effettuava le consegne di pane nei quartieri della propria città. Sviluppò forza e resistenza che lo portarono a disputare competizioni amatoriali, venendo quindi ingaggiato dal team Castalia a vent'anni[1].
Tra i dilettanti conquistò il Giro di Colombia, trampolino di lancio verso il professionismo, a cui approdò nel 1990 con la Postobón. Le sue doti di scalatore gli permisero di aggiudicarsi importanti corse, tra le quali spiccano due tappe alla Vuelta a España ed una sia al Giro d'Italia che al Tour de France, competizioni nelle quali ottenne anche buoni piazzamenti nella classifica finale.
Dopo il suo ritiro dalle corse, avvenuto nel 1998, si trovò al centro delle cronache quando venne rapito per due volte nel 2000, prima dall'Esercito di Liberazione Nazionale e poi dalle FARC, rimanendo in mano ai rapitori per un paio di giorni[1][2].