Ferrer aloitti katulaulajana 12-vuotiaana jäätyään orvoksi. Vuonna 1940 hän perusti yhdessä serkkunsa kanssa duettoryhmän Jovenes del Son (”sonin nuoret”). He esiintyivät yksityistilaisuuksissa ja onnistuivat ansaitsemaan riittävästi rahaa elääkseen.
Seuraavien vuosien aikana Ferrer esiintyi monissa yhtyeissä kuten Conjunto Sorpesa ja Orquesta Chepin-Choven. Jälkimmäisen johtaja sävelsi myöhemmin yhden Ferrerin suurimmista hiteistä: ”El Planatal de Bartolo”.
Vuonna 1953 Ferrer alkoi esiintyä Pacho Alonson yhtyeen mukana Santiagossa. Vuonna 1959 yhtye muutti pysyvästi Havannaan ja muutti nimensä Los Bocucokseksi.
Alonson yhtyeessä Ferrer esitti lähinnä guarachoja, soneja ja muita nopeita lauluja. Hän ei kuitenkaan esittänyt boleroita. Vasta 40 vuotta myöhemmin Ry Cooderin vuonna 1999 tuottamalla Buena Vista Social Clubilla huomattiin Ibrahim Ferrerin kyvyt bolerolaulajana.
Vuonna 1996 Ferrer oli mukana Afro-Cuban All StarsinGrammy-ehdokkuuden saaneella levyllä A Toda Cuba le Gusta. Vuonna 1999 ilmestyi kuubalaisen musiikin maailmanmaineeseen tuonut Wim Wendersin elokuva Buena Vista Social Club ja samanniminen albumi. Samana vuonna ilmestyi Ferrerin ensimmäinen soololevy, Ry Cooderin tuottama Buena Vista Social Club presents Ibrahim Ferrer.
Ferrer kiersi 1990- ja 2000-luvuilla maailmaa sekä huippusuosittuna sooloartistina, että osana Buena Vista Social Club -ryhmää, esiintyen muun muassa Suomessa muutamaan otteeseen. Vuonna 2003 ilmestyi Ferrerin toinen soololevy Buenos Hermanos.
