Hans debut på teater var i stykket Kong Henrik V i 1926 på Old Vic. I 1929 spilte han for første gang på Broadway og han hadde sin første rolle i en hollywoodfilm i 1933.
Orson Welles hadde en stor innvirkning på Coulouris' liv. De møttes i 1936 og Coulouris ble med i Welles' Mercury Theatre og spilte Mark Antony i oppsetningen av Julis Caesar. John Mason Brown skrev i sin anmedeldelse i New York Post blant annet: «Even 'Friends, Romans, countrymen' sounds on his tongue as if it were a rabble-rousing harangue he is uttering for the first time». Hans kanskje mest kjente rolle er som Walter Parks Thatcher i Welles' Citizen Kane (1941). For denne rollen vant han National Board of Reviews pris for beste skuespiller i 1941. Orson Welles var den eneste andre skuespilleren i Citizen Kane som også fikk denne prisen.
På denne tiden spilte han også i filmene Doctor in the House-serien, Papillon, The Long Good Friday og Murder on the Orient Express. I løpet av livet spilte han i over 80 filmer.