Harkin arbeitete als Anwalt, bevor er 1974 erstmals in das Repräsentantenhaus der Vereinigten Staaten gewählt wurde. Er gehörte der Parlamentskammer bis 1984 an; anschließend war er von 1985 bis 2015 Senator für Iowa. 1992 bewarb er sich als Präsidentschaftskandidat, verlor aber die Nominierung seiner Partei gegen Bill Clinton, den er später langjährig loyal unterstützte. Er profilierte sich als Fürsprecher von Menschen mit Behinderungen und beeinflusste die Gesetzgebung in diesem Bereich entscheidend.
Harkin gilt als Befürworter einer liberalen Abtreibungsregelung und unterstützt Aufklärungsprojekte zur Vermeidung von Teenager-Schwangerschaften. Er stimmte im März 2006 gegen die Verlängerung des USA PATRIOT Act. Im Juli 2006 fiel Harkin durch eine Rede als Antwort auf das Veto von George W. Bush gegen ein Gesetz zur Stammzellenforschung auf. Harkin gilt als Unterstützer der Stammzellenforschung.
Im Januar 2013 erklärte Harkin, sich bei der Senatswahl 2014 nicht erneut um sein Mandat bewerben zu wollen.[2] Im Januar 2015 löste ihn die bei der Wahl siegreiche RepublikanerinJoni Ernst ab.