Chayefsky urodził się na Bronksie w rodzinie rosyjskich Żydów. W czasie II wojny światowej służył w armii amerykańskiej, został odznaczony Purpurowym Sercem. Pisać zaczął w latach 40. XX wieku, pierwszym jego wielkim sukcesem była sztuka telewizyjna Marty wyprodukowana w 1953 i dwa lata później przeniesiona na duży ekran. Film zdobył cztery Oscary, jednego z nich otrzymał Chayefsky (za najlepszy scenariusz adaptowany).
Chayefsky był jednym z najbardziej utalentowanych scenarzystów swoich czasów. Jeszcze dwukrotnie odbierał Nagrodę Akademii Filmowej, za scenariusze do filmów: Szpital (1972) i Sieć (1977). Zmarł na raka w wieku 58 lat.