Milhaud kom frå ei gammal slekt av jødisk-provensalsk opphav. I følgje han sjølv var både den geografiske og den religiøse bakgrunnen noko som hadde monaleg innverknad på han gjennom heile livet.
Frå 1909 studerte han fiolin i Paris, men tre år seinare var det komposisjon som opptok han mest. Han blei undervist av André Gedalge, Charles-Marie Widor, og Vincent d'Indy. I Gédalges kurs blei han òg kjend med bl.a. Arthur Honegger og Jacques Ibert. På denne tida oppstod først og fremst lieder etter dikt av samtidige franske diktarar, og hans første opera (La brebis égarée, 1910-1915).
Etter å ha tilbringa 2 år i Sør-Amerika, der han blei kjend med brasiliansk folkemusikk og populærmusikk, kom han i 1918 tilbake til Frankrike, der han høyrde til krinsen rundt Jean Cocteau og Erik Satie. Der vart han med i den kjende komponistgruppa les Six. Komposisjonane gav Milhaud suksess, men av og til òg skandalar.
Milhaud var ein svært produktiv komponist (hans verkliste inneheld meir enn 400 opus), som verka innan alle framståande musikkformer (opera, symfonisk musikk, instrumentalkonsertar, kammer- og vokalmusikk, lieder).
Han var under sterk påverknad frå musikk frå middelhavsnære område, særleg den italienske. Kompositorisk brukte han teknikkar som bi-polytonalitet, polyrytmikk og inspirasjon frå jass, han avstod frå strenge og formelle teknikkar frå klassisk satslære, og ein av styrkane hans var ein særeigen melodikk. Eit av dei mest kjende stykka hans er Scaramouche for 2 klaver, som han òg arrangerte for mange andre besetningar.
