Allievo di William Bouguereau e di Tony Robert-Fleury, Ulmann ama dipingere paesaggi marini bretoni, olandesi e vedute di Parigi.
A partire dal 1907, espone dei paesaggi alla Société nationale des beaux-arts e anche con Société nouvelle de Paris in seguito ribattezzata Société des peintres et sculpteurs, presieduta da Auguste Rodin nell'ambito delle esposizioni di Parigi e degli Stati Uniti d'America, in particolare a Buffalo in novembre-dicembre 1912[1]
Quando Ulmann era ancora vivente, lo stato francese acquisisce numerose sue opere che vengono esposte al Museo di Lussemburgo, al Musée Bonnat di Bayonne, alla Camera dei deputati e al Palazzo dell'Eliseo.