La police découvre un groupe d'immigrés clandestins en provenance d'Afrique dans un conteneur sur le port du Havre. Un jeune garçon, Idrissa, parvient à s'enfuir et se réfugie chez un cireur de chaussures, Marcel Marx dont la femme Arletty est gravement malade. Marcel s'emploie à cacher Idrissa et à essayer de le faire passer en Angleterre, où sa mère l'attend. Arletty est admise à l'hôpital et demande aux docteurs de cacher à Marcel la gravité de son état.
Un patron-pêcheur accepte de prendre Idrissa à son bord et de le remettre en mer à un confrère anglais, qui réclame 3 000 € en paiement. Pour réunir cette somme, Marcel persuade le rocker local Little Bob de se produire charitablement en concert. Little Bob et sa compagne se sont disputés et Marcel doit préalablement les réconcilier.
La tâche de cacher Idrissa devient de plus en plus compliquée car un voisin les a dénoncés à la police. Cependant le commissaire Monet, chargé de l'enquête, montre peu d'enthousiasme pour l'arrestation d'un enfant et prévient Marcel discrètement qu'une rafle se prépare. Avec l'aide des commerçants du quartier et d'un autre immigré qui a pu se régulariser, Chang, Marcel parvient à mettre Idrissa sur le bateau. La police les rejoint, mais Monet en sa qualité de Commissaire sauve la situation en s'asseyant sur la trappe qui contient le jeune garçon pendant que le bateau est fouillé. Idrissa prend le large et Marcel se rend à l'hôpital où il trouve un lit vide. On l'emmène parler au docteur qui lui apprend que… sa femme a fait une guérison miraculeuse.
Le Havre est le second film tourné en langue française par Aki Kaurismäki après La Vie de bohème en 1992. Il a avec ce dernier beaucoup de points communs :
Dans ce film, Kaurismäki superpose deux époques, la première celle des années 1960-70 (habitat, automobiles), l'autre contemporaine (téléphones mobiles, conteneurs, monnaie en euros, vin de 2005).
Il propose une vue romanesque et anachronique du Havre, à travers les yeux du réalisateur finlandais.
À travers une vision humaniste, le réalisateur aborde la problématique intemporelle des migrations, particulièrement dans une ville portuaire comme Le Havre, avec de l'empathie et sans jugement de valeur.
L'année indiquée est celle de la cérémonie. Les films sont ceux qui sont proposés à la nomination par la Finlande ; tous ne figurent pas dans la liste finale des films nommés.