In seguito pubblicò i suoi primi versi nell'Écho du Rhône, poi lavorò come insegnante a Nyons ed infine presso il Collège Dupuy ad Avignone. Fu lì che Roumanille ebbe come allievo il futuro premio NobelFrédéric Mistral, apprezzandone le spiccate doti poetiche e letterarie.
Nel 1847 Roumanille pubblicò un volume di versi dal titolo Li Marbarideto e nel 1851 un'altra raccolta intitolata Li Sounjarello. L'anno successivo, assieme a Mistral ed Anselme Mathieu, curò una raccolta di versi in provenzale dal titolo Li Prouvençalo, mentre nel 1853 scrisse una dissertazione sulla pronuncia del provenzale.
Nelle sue opere Roumanille concepì la poesia come un culto delle virtù domestiche ed esaltò sempre i valori tradizionali e cattolici, servendosi principalmente di personaggi popolari.
Roumanille sposò Rose-Anaïs Gras, sorella di Félix Gras.
Joseph Roumanille morì ad Avignone la mattina del 24 maggio 1891. I suoi funerali ebbero luogo due giorni dopo, e venne sepolto a Saint-Rémy-de-Provence nella tomba dei genitori.
Opere
Li Marbarideto (1847)
Li Sounjarello (1851)
Li Prouvençalo (1852)
La campano mountado (1857)
Fau i Ana (1877)
Lis entarro-chin (1872)
Li conte prouvençau (1883)
Dideto (1880)
Li cascareleto (Lou cascarelet), scritto anonimo incluso in Lis oubreto en proso (1853)