Issu d'une famille de samouraï, le Vicomte Shūzō Aoki est le fils d'un médecin du domaine de Chōshū (dans l'actuelle préfecture de Yamaguchi). Il étudia les sciences et la médecine occidentales (rangaku) à la Meirinkan (école Han) du domaine à Hagi et à Nagasaki. Il fut ensuite envoyé en Allemagne pour étudier le droit occidental en 1868. Il y étudia cependant beaucoup plus de sujets que prévu, allant de la médecine occidentale à la politique, à l'économie et même à la science militaire. Dans les notes qu'on a retrouvées, il racontait qu'il étudiait comment fabriquer de la bière, du papier, des billets de banque, des tapis, et les techniques occidentales de gestion des forêts.
En 1891, Aoki fut forcé de démissionner à la suite du scandale d'Ōtsu, mais il retrouva son fauteuil de ministre des Affaires étrangères dans le gouvernement Matsukata.
En 1894, envoyé en Grande-Bretagne comme ambassadeur, Aoki travailla avec le ministre des Affaires étrangères Mutsu Munemitsu pour réviser les traités inégaux avec succès car un nouveau traité anglo-japonais fut signé à Londres le .
Retrouvant son poste de ministre des Affaires étrangères dans le 2e gouvernement Yamagata, Aoki aida à ce que le Japon soit reconnu comme une grande puissance en supportant militairement les forces européennes durant la révolte des Boxers.
Aoki fut ensuite nommé au Conseil privé et reçut le titre de shishaku (vicomte).
Aoki meurt des complications d'une pneumonie en 1914 à son domicile de Kōjimachi à Tokyo. Sa tombe se trouve au Nasu.
Mariage et progéniture
Le , Aoki épouse à Brême Elisabeth von Rhade (1849-1931). Fille d'un aristocrate prussien, Elisabeth est née à Strippow, en Poméranie. Sa veuve décède le à Munich. Ensemble, ils eurent une fille :
La vicomtesse Aoki Hanna (Hanako) ( – ), qui épousa Alexander Maria Hermann Melchior, comte von Hatzfeldt zu Trachenberg (1877–1953), le deuxième fils du prince Hermann von Hatzfeldt, à Tokyo, le .
Par sa fille, Aoki était le grand-père de la comtesse Hissa Elisabeth Natalie Olga Ilsa von Hatzfeldt zu Trachenberg ( – ), qui épousa le comte Maria Erwin Joseph Sidonius Benediktus Franziskus von Sales Petrus Friedrich Ignatius Hubertus Johannes von Nepomuk Felix Maurus von Neipperg (arrière-petit-fils du général autrichien Adam Albert von Neipperg) à Munich en 1927. Erwin et Hissa ont eu quatre enfants, mais aujourd'hui éteints dans la lignée masculine. La fille de Hissa, Maria Hedwig Gabrielle Nathalie Benedicta Lioba Laurentia, comtesse von Neipperg (née le ), a épousé Sir Anthony Williams, l'ambassadrice britannique en Argentine durant la guerre des Malouines.