Borges è stato uno dei fondatori del Clube da Esquina, collettivo di artisti musicali del Minas Gerais, tra i più rilevanti nel Brasile degli anni 70. È anche coautore, insieme a Milton Nascimento, del doppio album eponimo (Clube da Esquina appunto) , uscito nel 1972 in tutto il mondo con vendite di successo e apprezzato grandemente anche dalla critica, essendo stato tra l'altro inserito in 1001 Albums You Must Hear Before You Die[1] . I brani di Borges da solista più conosciuti sono Paisagem da Janela, Equatorial , Para Lennon e McCartney e O Trem Azul (questi ultimi due affidati anche a Milton).
Nel 2016 Borges ha registrato un album live con Samuel Rosa, leader degli Skank.