Iniziò la sua carriera nel mondo della televisione e, nel 1955, il suo esordio come regista cinematografico gli valse il premio Oscar al miglior regista con il film Marty, vita di un timido, interpretato da Ernest Borgnine. Il film, riduzione di un dramma televisivo di Paddy Chayefsky e considerato all'epoca come esempio di neorealismo americano, ottenne anche il gran premio della giuria di Cannes oltre ad altre tre statuette (attore protagonista, sceneggiatura e miglior film).
Dal 1967 al 1971 fu presidente del Directors Guild of America. Negli anni '80 e '90 fu membro permanente del Comitato Consultivo del National Student Film Institute.
Morì molto anziano nel 2007, per una polmonite.
Vita privata
Mann si unì in matrimonio nel 1941 con Ann Caroline Gillespie; la coppia rimase sposata sino alla morte di lei, a causa del morbo di Alzheimer, nel 2001.