Nato a Tursi, Basilicata, emigrò ventenne a Napoli per proseguire gli studi, dove si affermò come letterato. Guadagnate le simpatie di Carolina Bonaparte, moglie di Gioacchino Murat, Oliva ricevette un vitalizio e venne nominato poeta di corte, nonché precettore dei figli dei sovrani francesi durante il decennio napoleonico.
Compose poesie e tradusse dal greco L'Etesiade di Pindaro, L'Ecuba di Euripide, L'Edipo Re e L'Edipo a Colono di Sofocle. Fu socio dell'Accademia Pontaniana nonché pittore ed alcune opere sono esposte nella natia Tursi. Nel 1830 fu colpito da una malattia che lo costrinse alla paralisi fino alla morte, avvenuta nel 1842. Sua figlia, Laura Beatrice Oliva, fu una scrittrice e poetessa, oltreché moglie del suo allievo Mancini.
Opere parziali
Il voto boschereccio, favola pastorale in un dramma di tre atti (1815)