Jäger wurde 1991 zum Staatssekretär in der Senatsverwaltung für Inneres in Berlin ernannt. Anschließend war er in der Zeit von 1995 bis 1997 zunächst als Staatssekretär im Ministerium für Bau, Landesentwicklung und Umwelt sowie danach im Wirtschaftsministerium Mecklenburg-Vorpommern tätig. Bis 1995 war Jäger Mitglied des Landesverbandes Berlin, nach seinem Umzug in diesem Jahr nach Mecklenburg-Vorpommern wechselte er in diesen Landesverband und war von 1998 bis 2010 Mitglied des Vorstandes des Landesverbandes. Vom 13. Mai 1997 bis zum 3. November 1998 war Jäger Innenminister des Landes Mecklenburg-Vorpommern.
Armin Jäger war vom 26. Oktober 1998 bis zum Ende der 5. Wahlperiode im Jahre 2011 Mitglied des Landtages Mecklenburg-Vorpommern und seit 1998 sowohl stellvertretender Vorsitzender des Innenausschusses als auch der Parlamentarischen Kontrollkommission. Vom 25. Oktober 2005 bis Februar 2009 war er zudem Vorsitzender der CDU-Fraktion im Landtag Mecklenburg-Vorpommern. Zur Landtagswahl am 4. September 2011 trat er nicht mehr an. Seit April 2011 ist er ehrenamtlicher Präsident der Deutschen Lebens-Rettungs-Gesellschaft des Landesverbandes Mecklenburg-Vorpommern.
Jäger ist katholisch, verheiratet und hat drei Kinder.