Nach seiner Rückkehr in die USA war er zwischen 1969 und 1972 Mitarbeiter im Stab für politische Planungen im US-Außenministerium und zugleich bis 1970 White House Fellow des State Department sowie Mitarbeiter im dortigen verteidigungspolitischen Gremium (Defense Policy Board). Nach einer Verwendung als Sonderassistent des Botschafters in Japan von 1972 bis 1974, kehrte er anschließend als Mitarbeiter in den Stab für politische Planungen ins Außenministerium zurück.
Danach kehrte er ins Außenministerium zurück und war zwischen 1980 und 1982 stellvertretender Assistant Secretary of State für Angelegenheiten von Ostasien und Ozeanien, ehe er im Anschluss im März 1982 als Nachfolger von Richard W. Murphy Botschafter auf den Philippinen wurde.
Anschließend übernahm er im Mai 1984 als Under Secretary of State für politische Angelegenheiten den dritthöchsten Posten im Außenministerium der Vereinigten Staaten, behielt dieses Amt bis März 1989 und war damit der bisher dienstzeitlängste Amtsinhaber. Zuletzt war Armacost von Mai 1989 bis Juli 1993 als Nachfolger von Mike Mansfield Botschafter in Japan.
Tätigkeiten in der Privatwirtschaft und Organisationen
Nach seinem Ausscheiden aus dem diplomatischen Dienst 1993 wechselte er in die Privatwirtschaft und wurde Mitglied des Board of Directors von Applied Materials und 1994 wurde er Mitglied des Board of Directors von Aflac sowie 2002 von USEC. Daneben gehörte er diesem Gremium von Cargill sowie von TRW an.
Des Weiteren engagierte sich Armacost nicht nur im Council on Foreign Relations und als Trustee des Carleton College, sondern von 1993 bis 1995 auch Fellow am Asia-Pacific Research Center der Stanford University. Danach war er zwischen 1995 und 2002 Präsident der Brookings Institution[1], ehe er seit 2002 wieder Fellow am Asia-Pacific Research Center der Stanford University ist.
Außerdem war er zeitweise Mitglied des Beratungsgremiums von America Abroad Media, des Board of Trustees der Asia Foundation[2] sowie des Board of Directors des National Committee on US-China Relations. Schließlich übernahm er auch Aufgaben in der American Academy of Diplomacy, dem Aspen-Institut, bei Bohemian Grove, der Hoover Institution sowie der Trilateralen Kommission.
United States Policy for the Changing Realities of East Asia: Toward a New Consensus, Mitautoren Daniel I. Okimoto, Henry S. Rowen, Michel Oksenberg, James H. Raphael, Thomas P. Rohlen, Donald K. Emmerson (1996)
Japan: Tilting Closer to Washington (2003)
Future of America's Alliances in Northeast Asia, Mitautor Daniel I. Okimoto (2004)
America's Role in Asia in 2004: An Overview, Mitautor J. Stapleton Roy (2004)
Cross Currents: Regionalism and Nationalism in Northeast Asia, Mitautoren Gi-Wook Shin, Daniel C. Sneider, Vinod K. Aggarwal, Paul Evans, David Kang, Tomoyuki Kojima, Min Gyo Koo, Su Hoon Lee, Makio Miyagawa, Mark Peattie, Randall Schriver, Yinhong Shi, Scott Snyder, Feng Zhu (2007)
Asian Policy Challenges for the Next President, Mitautor J. Stapleton Roy (2008)
New Beginnings in the U.S.-ROK Alliance: Recommendations to the Obama Administration, Mitautoren Thomas C. Hubbard, Evans J. R. Revere, Gi-Wook Shin, Charles Jack L. Pritchard, Don Oberdorfer, David Straub, Daniel C. Sneider, Robert Carlin, Victor Cha (2009)
Addressing the North Korea Nuclear Challenge, Mitautoren Daniel I. Okimoto, Gi-Wook Shin (2003)