Karierę rozpoczął jako krytyk filmowy w przeglądach Hebdo-Film, Cinémonde i Film-Sonore. Po wyprodukowaniu kilku reklam, w 1929 wraz z Michelem Sanvoisinem, wyreżyserował swój pierwszy film dokumentalny zatytułowany Nogent, Eldorado du dimanche (Nogent, niedzielne Eldorado).
Dzięki Feyderowi w 1936 roku zrealizował swój pierwszy film, Jenny. Wtedy też zawarł znajomość z Prévertem, scenarzystą, który wielce się przyczynił do renomy Carné. Już podczas realizacji pierwszego obrazu pod tytułem Śmieszny dramat (Drôle de drame), Carné i Prévert doskonale się uzupełniali; z czasem ich współpraca zacieśniła się jeszcze bardziej.
W 1938 roku zaowocowała ona wielkim dziełem Ludzie za mgłą. U podstaw sukcesu leżały zwinność z jaką Carné filmował plenery i kierował grą aktorów, jak również talent Préverta, który w niepokojącą atmosferę filmu wplatał typowe dla swej poezji wątki późnego surrealizmu.
W tym samym 1938 roku nakręcony został niezapomniany Hotel du Nord (Hôtel du Nord), a 1939 rok przyniósł znakomity Brzask (Le Jour se lève), ukazujący historię robotnika (Jean Gabin), który oczekując w swoim pokoju aresztowania przez policję, przypomina sobie chwilę, gdy dokonał zabójstwa w imię miłości do kobiety i o wschodzie słońca oddaje samobójczy strzał. W tym politycznie zaangażowanym filmie postać robotnika, dla Frontu Ludowego protagonista społeczeństwa, stała się jednym z głównych tematów Preverta, który postrzegając rzeczywistość zgodnie z koncepcjami metafizycznymi, według których to przeznaczenie wyznacza ścieżki życia, przedstawił ją jako jednostkę anonimową i wyobcowaną. Ta forma fatalizmu egzystencjalnego zaznaczyła kres pierwszych nadziei Frontu Ludowego. Nie przez przypadek w tym samym roku powstały Reguły gryRenoira.
Rok 1943 przyniósł Wieczornych gości (Les Visiteurs du soir), ekranizację średniowiecznej legendy odznaczającą się olbrzymią dbałością o szczegóły (mimo iż Carné nie był usatysfakcjonowany kostiumami).
Po wyzwoleniu Paryża, Carné i Prévert zaprezentowali swoje arcydzieło Komedianci (Les Enfants du paradis, dosł. Rajskie dzieci), którego akcja rozgrywała się w XIX-wiecznym Paryżu, a osnuta była wokół historii początków karier słynnego mima Jeana-Gasparda Deburau (Jean-Louis Barrault), oraz wielkiego aktora Frédéricka Lemaître’a (Pierre Brasseur) i ich miłości do tej samej kobiety – Garance (Arletty).
W następnym roku powstał kolejny wspólny obraz Wrota nocy.
W kolejnych latach Carné stworzył dzieła mniejszego znaczenia, lecz nadal dobre. Zalicza się do nich filmy Teresa Raquin (1953), Oszuści (1958), Trzy pokoje na Manhattanie (1965), Młode Wilki (1968) i Mordercy w imieniu prawa (1971).
W 1974 francuski pisarz Didier Decoin stwierdził: „Raz na zawsze Ingmar Bergman wybrał przytłumienie. Luchino Visconti opowiedział się definitywnie za upadkiem. Fellini pozostanie na zawsze autorem pośmiewiska. Carné się nie zdecydował.”
