Knapp zwei Wochen vor der Präsidentenwahl am 14. März 2004 wurde Fradkow zum Ministerpräsidenten Russlands ernannt. Damit deutete sich eine weitere Machtkonzentration in den Händen Putins an, da der kaum bekannte Fradkow (und sein ihm unterstelltes Kabinett) keine politische Hausmacht hatte. Putin attestierte Fradkow die Fähigkeit, ein „guter, starker Administrator“ zu sein. Nach der Präsidentschaftswahl erfolgte eine Regierungsumbildung (Kabinett Fradkow II).
Am 12. September 2007 nahm Putin ein von Fradkow überraschend gestelltes Rücktrittsgesuch an.[2] In der öffentlichen Begründung seines Rücktritts äußerte Fradkow, er wolle Putin mehr Entscheidungsspielraum in personeller Hinsicht geben. Zu seinem Nachfolger wurde Wiktor Subkow bestimmt, der sein Amt am 14. September 2007 antrat.[3]
Am 6. Oktober 2007 wurde Fradkow zum Direktor des Auslandsgeheimdienstes SWR ernannt, was er bis 2016 blieb. Als solcher war er ständiges Mitglied des Sicherheitsrates der Russischen Föderation.