Sa scolarité est difficile mais, malgré les difficultés rencontrées, Jean-Marie Rouart persévère. Il est cinq fois candidat au baccalauréat : il obtient un premier bac au bout de la troisième tentative (à l'oral de rattrapage), puis un second bac au bout de la seconde tentative[2]. Jean-Marie échoue ensuite en première année de droit, puis en première année de lettres[3].
Après avoir mené ses études de philosophie et de lettres[4],[5], Jean-Marie entre au Magazine littéraire en 1967 puis au Figaro, où il reste de 1967 à 1975, chroniqueur et grand reporter, avant de démissionner lors du rachat du journal par Robert Hersant[6].
Alors que son premier livre est refusé treize fois par les éditeurs en 1962 et qu'il renonce à le faire publier, son second livre La Fuite en Pologne paraît en 1974[6].
Franc-maçon « parce que leurs idées étaient à l'opposé de celles de ma famille »[7], il collabore comme éditorialiste, à partir de 1977, au Quotidien de Paris (Groupe Quotidien), dont il devient rédacteur en chef en 1979 et dont il dirige les pages littéraires jusqu'à son départ en 1985[6].
Il retourne par la suite au Figaro et devient le directeur du supplément littéraire de 1986 à 1988, puis le directeur littéraire.
En 1994, il est l'un des principaux animateurs du Comité pour la révision du procès d'Omar Raddad, affaire à laquelle il consacre un ouvrage, Omar : la construction d'un coupable, ce qui lui vaudra une condamnation pour diffamation en 2002[8],[9].
Il mène un combat actif contre la prostitution, préfaçant en 2000 le Livre noir de la prostitution.
En 2002, il co-signe une pétition demandant une « solution rapide et décente aux problèmes fiscaux de Françoise Sagan », condamnée pour une fraude fiscale sur ses revenus de 1994 et devant à l’État 838 469 euros, en considérant que si « Françoise Sagan doit de l'argent à l’État, la France lui doit beaucoup plus : le prestige, le talent, un certain goût de la liberté et de la douceur de vivre »[13].
En 2003, il est évincé de la direction du Figaro littéraire au profit d'Angelo Rinaldi. Il collabore alors à Paris Match.
Depuis 2006, il préside le comité de soutien à Bruno Joushomme[14], dont l'objectif est la révision de son procès, compte tenu de supposés nouveaux éléments au dossier[15]. Les magistrats chargés de l'affaire ont écarté cette possibilité, considérant l'absence d' « éléments nouveaux de nature à faire naître un doute sur la culpabilité du condamné[15]. »
En 2012, alors qu'il préside le festival La Forêt des livres, il reçoit le prix de l’Œuvre de ce même festival[16].
Membre depuis 1997-1998, il répond en 2003 au discours de réception de Valéry Giscard d'Estaing : après avoir retracé l'œuvre politique de l'ancien président de la République, il rappelle le jugement sévère que le critique du Figaro Renaud Matignon lui avait consacré, après la parution de son unique roman, Le Passage, le comparant à « un Maupassant qui aurait fait la connaissance de la comtesse de Ségur, ou à un Grand Meaulnes qui aurait croisé Bécassine »[18].
La Famille Rouart. Au cœur de l'Impressionnisme, catalogue de l'exposition sous la direction de Solange Thierry, édité par le musée de la vie romantique, Paris, 2004.
Il reçoit, en 2023, le prix de l'Enracinement-Simone Weil décerné par le think tank « Écologie responsable » dans le salon Napoléon du Sénat pour l'ensemble de son œuvre[24].
Charlotte Cachin-Liébert, « Rouart (Jean-Marie) », dans Jacques Julliard et Michel Winock (dir.), Dictionnaire des intellectuels français : les personnes, les lieux, les moments, Paris, Le Seuil, (ISBN978-2-02-099205-3), p. 1228-1229.