Il est né au château de Rossignol, dans la commune de Chalagnac, qui était entré dans sa famille par le mariage, en 1831, de son père, Louis-Grégoire Agard de Rouméjoux, avec Madeleine Angélique Clotilde de Fayard (1811-1895). Anatole de Rouméjoux est le neveu de Louis Côme Agard de Rouméjoux.
Après avoir commencé ses études au petit collège d'Azerat, il les a terminées à Poitiers. Il a alors commencé à s'intéresser à l'histoire de son pays natal en rédigeant des monographies d'hommes illustres dans Le Chroniqueur du Périgord et du Limousin : Lagrange-Chancel, Cyrano de Bergerac, Alain de Solminhiac, ... et des études sur quelques faits historiques. Quand Le Chroniqueur du Périgord et du Limousin a disparu, il a écrit dans les Annales de la Société d'agriculture, sciences et arts de la Dordogne.
C'est en 1858, au Congrès archéologique de France, à Périgueux qu'il a rencontré Arcisse de Caumont qui l'a encouragé à s'intéresser à l'archéologie monumentale. En 1864, il succède à Félix de Verneilh comme inspecteur de la Société française d'archéologie pour la Dordogne. Il est devenu un collaborateur du Bulletin monumental et a participé à tous les Congrès archéologiques de France.
Il s'est marié en 1864 avec Marie de Garrigues de Flaujac (1842-1937), d'une ancienne famille du Quercy. Il a eu de son mariage une fille, Marguerite Agard de Rouméjoux (1865-1931) avec Félix de Fayolle de Tocane (1859-1923), frère de Gérard de Fayolle de Tocane (1851-1933), marquis de Fayolle, qui lui a succédé à la présidence de la société historique et archéologique du Périgord.
Il est ensuite un des membres fondateurs de la société historique et archéologique du Périgord, en 1874. Il en est devenu vice-président en 1877. Anatole de Rouméjoux a été élu président de la société historique et archéologique du Périgord le 27 mai 1893. Il l'est resté jusqu'à son décès.
« D'Albi à Lavaur », dans Congrès archéologique de France. 30e session. Rodez, Albi et Le Mans. 1863,Société française d'archéologie pour la conservation des monuments historiques, Paris, 1864, p. 522-529(lire en ligne)
« Notes sur un souterrain-refuge à Chanlebout (commune de Chalagnac) », dans Annales agricoles et littéraires de la Dordogne, 1869, tome 30, p. 315-318(lire en ligne)
« Fouille d'un tumulus à Chalagnac », dans Annales agricoles et littéraires de la Dordogne, 1869, tome 30, p. 1136-1141(lire en ligne)
« Lettre au rédacteur sur la situation actuelle », dans Annales agricoles et littéraires de la Dordogne, 1870, tome 31, p. 1009-1012(lire en ligne)
Essai de bibliographie périgourdine, Librairie de J. Chollet imprimeur-éditeur, Sauveterre, 1882 (lire en ligne)
« Notre-Dame-de-Saux et Montpezat (Tarn-et-Garonne) », dans Bulletin monumental, 1885, tome 51, p. 202-210(lire en ligne)
« Fouilles de la tour de Vésone à Périgueux en 1894 », dans Bulletin monumental, 1895, tome 60, p. 43-47(lire en ligne)
« Espagnac (Lot) », dans Bulletin monumental, 1895, tome 60, p. 29-36(lire en ligne)
Bulletin de la Société historique et archéologique du Périgord
« Rapport sur le Congrès archéologique tenu à Toulouse et à Agen du 1er au 10 juin 1874 », dans Bulletin de la Société historique et archéologique du Périgord, 1874, tome 1, p. 140-143(lire en ligne)
« Notes sur l'église de Carsac », 1874, tome 1, p. 235-236(lire en ligne)
« Chapelle de Sainte-Ursule, à Périgueux », 1875, tome 2, p. 347-349(lire en ligne)
« Soumission des villes de Périgueux, Sarlat, etc., au roi Henri IV (1594) », 1876, tome 3, p. 487 (lire en ligne)
« Établissement de la Cour des Aides à Périgueux 1553 », 1877, tome 4, p. 246-248(lire en ligne)
« Bijoux de Mme des Bories (1581) », 1893, tome 20, p. 319-320(lire en ligne)
« Sixième excursion archéologique (12 et 13 juin 1893) », 1893, tome 20, p. 381 (lire en ligne)
« Note sur la crypte de l'église de Saint-Astier », 1894, tome 21, p. 289-295(lire en ligne)
« Note sur la prise de Bergerac le 24 août 1345 », 1894, tome 21, p. 407-412(lire en ligne)
« Septième excursion de la Société historique et archéologique du Périgord », 1894, tome 21, p. 478-491(lire en ligne)
« Fouilles de la tour de Vésone (avril 1894) », 1895, tome 22, p. 187-194(lire en ligne)
« L'autel de la crypte de Saint-Astier », 1895, tome 22, p. 283-288(lire en ligne)
« Huitième excursion archéologique, 1er et 2 juillet 1895 », 1895, tome 22, p. 366-378(lire en ligne)
« La collégiale de Saint-Astier », 1896, tome 23, p. 108-113(lire en ligne)
« Congrès archéologique du 3 au 11 juin 1896 », 1896, tome 23, p. 303-308(lire en ligne)
« Le château du Claud », 1896, tome 23, p. 346-347(lire en ligne)
avec le marquis de Fayolle, « Neuvième excursion archéologique », 1896, tome 23, p. 406-425(lire en ligne)
« L'église de Sergeac », 1897, tome 24, p. 93-95(lire en ligne)
« Congrès archéologique Nîmes et Avignon 18-25 mai 1897 », 1897, tome 24, p. 346-350
« Excursions de la société des 28 et 29 juin 1897 », 1897, tome 24, p. 381-388(lire en ligne)
« Martial Delpit, député à l'Assemblée nationale. Journal et correspondance avec portrait, par P.-B. des Valades », 1898, tome 25, p. 69-71(lire en ligne)
« Notes sur les Dalvy, imprimeurs-libraires, à Périgueux, Tulle et Cahors », 1898, tome 25, p. 377-383(lire en ligne)
« Onzième excursion archéologique 28 et 29 juin 1898 », 1899, tome 26, p. 49-62(lire en ligne)
« Douzième excursion archéologique. Hautefort, Brive, Padirac, Roc-Amadour, 10 et 11 juillet 1899 », 1899, tome 26, p. 510-520(lire en ligne)
« Siorac de Ribérac », 1900, tome 27, p. 51-52(lire en ligne)
« Extrait des Olim: Incendie du Moustier d'Augignac; démêlés entre Geoffroy de Pons et l'évêque de Périgueux », 1900, tome 27, p. 242-245(lire en ligne)
« Congrès archéologique d'Agen, 11-18 juin 1901 », 1901, tome 28, p. 650-656(lire en ligne)
« Excursion archéologique des 15 et 16 juillet 1901, Savignac-Lédrier, Ségur, Arnac, Lubersac », 1901, tome 28, p. 777-785(lire en ligne)
Ferdinand Villepelet, marquis de Fayolle, « Nécrologie : A. De Rouméjoux », dans Bulletin de la société historique et archéologique du Périgord, 1902, p. 509-514(lire en ligne)
Maïté Etchechoury, « Portraits d'archéologues périgourdins du XIXe siècle : Anatole de Rouméjoux », dans Dessiner le patrimoine. Archéologues en Périgord du XVIIIe siècle à nos jours, Conseil départemental de la Dordogne/Ville de Périgueux, Périgueux, 2017, p. 58-65, (ISBN978-2-86024-025-3)
Jean-Marie Barbiche, « Périgueux en dessins au XIXe siècle : rôle archéologique et charge symbolique - Périgueux en dessins chez Verneilh et Rouméjoux », dans Dessiner le patrimoine. Archéologues en Périgord du XVIIIe siècle à nos jours, Conseil départemental de la Dordogne/Ville de Périgueux, Périgueux, 2017, p. 100-105, (ISBN978-2-86024-025-3)