Zenei tanulmányait a nápolyi San Pietro a Majella konzervatóriumban végezte 1875-ben. Ezután megkezdte első operája, a Chatterton komponálását, amely Thomas Chattertonangolköltő életét dolgozza fel. Az elkészült művet egy impresszárió gondjaira bízta, aki végül becsapta őt, így Leoncavallo kávéházi zongoristaként, illetve zenetanárként volt kénytelen fenntartani magát. Zongoristaként fellépett Angliában, Franciaországban és Egyiptomban is. Itt az alkirály testvérének volt a házi muzsikusa, majd az egyiptomi hadsereg zenekarainak inspektora lett. Az 1882-es egyiptomi–angol háború idején csak Lesseps Ferdinánd segítségével tudta elhagyni az országot. Később egy kávéházban ismerkedett meg Victor Maurel világhírű baritonistával, aki felismerve az ifjú tehetségét, Milánóba hívta. Ott a Ricordi zeneműkiadó megígérte, hogy Leoncavallo tervezett operatrilógiájának első részét, az I Medicit megjelenteti, később azonban nem tartotta be az ígéretet. Az opera a bemutatón megbukott.
A zenei világban a Bajazzók (Pagliacci) opera megírása után lett ismert. A művet fél év leforgása alatt komponálta meg, majd a Sonzogno Kiadóhoz fordult, amely megvette a partitúrát. Az operát 1892. május 17-én, Toscanini vezényletével mutatták be Milánóban, a Teatro Dal Verme színházban. Ezt a sikert későbbi operáival megközelíteni sem tudta.
1897-ben megzenésítette PucciniBohéméletének librettóját, azonban vetélytársával szemben alulmaradt. 1900-ban elkészült Zazà című operájával, és a Pagliacci sikerének köszönhetően sikerült színre vinnie korábbi műveit, a Chattertont és a Medicieket. Mindkettő megbukott, azonban II. Vilmos német császár az utóbbi révén felfigyelt a tehetséges szerzőre, és anyagilag támogatta A berlini Roland megírásában. Az opera mérsékelt sikert aratott Németországban. Az elkövetkező években írt még vagy tíz művet, azonban egyik sem bizonyult sikeresnek.
Vesti La Giubba – Részlet a Bajazzókból, Enrico Caruso előadásában, a felvétel 1907. március 17-én készült.
No Pagliaccio non son – Részlet a Bajazzókból, előadó: Enrico Caruso.
