Sự nghiệp chính trị của ông bắt đầu từ chính quê hương Long An. Ông từng giữ các chức vụ Giám đốc Sở Nông nghiệp và Phát triển nông thôn, Bí thư Huyện ủy Thủ Thừa, Ủy viên dự khuyết Trung ương Đảng, Phó Chủ tịch UBND tỉnh Long An, Phó Bí thư Tỉnh ủy, Bí thư Tỉnh ủy Long An.
Ngày 27 tháng 1 năm 2015, Ông Tô Huy Rứa, Ủy viên Bộ Chính trị, Bí thư Trung ương Đảng, Trưởng ban Tổ chức Trung ương đã trao Quyết định số 1713-QĐNS/TW ngày 27-1-2015 của Bộ Chính trị về việc điều động ông Mai Văn Chính, Ủy viên Ban Chấp hành Trung ương Đảng, Bí thư Tỉnh ủy Long An, thôi giữ chức Bí thư Tỉnh ủy, thôi tham gia Ban Chấp hành, Ban Thường vụ Tỉnh ủy Long An để nhận nhiệm vụ Phó Trưởng ban Tổ chức Trung ương.[3]
Ngày 16 tháng 7 năm 2021, Thủ tướng Chính phủPhạm Minh Chính ký Quyết định số 1240/QĐ-TTg, bổ nhiệm ông làm Ủy viên Hội đồng Thi đua - Khen thưởng Trung ương.
Ngày 21 tháng 8 năm 2024, Bộ Chính trị tổ chức lễ công bố quyết định về phân công Ủy viên Trung ương Đảng. Bộ Chính trị phân công ông Mai Văn Chính, Ủy viên Trung ương Đảng, Phó Trưởng ban Thường trực Ban Tổ chức Trung ương giữ chức Trưởng ban Dân vận Trung ương.[4]
