Umezu stammt aus Nakatsu im Nordosten Kyushus (Präfektur Oita), wo seine Vorfahren seit Generationen eine Buchhandlung betrieben. Nach dem Besuch der Seisei-Oberschule in Kumamoto wechselte er in die Kadettenschule und absolvierte anschließend ein Studium an der Heereshochschule, das er im November 1911 als Jahrgangsbester abschloss.
Im April 1913 wurde Umezu nach Deutschland und Dänemark entsandt, danach war er Attaché in der Schweiz. In den Zwanziger Jahren schloss er sich der Tōsei-ha (Steuerungsgruppe) an, die von General Ugaki Kazushige zusammen mit Sugiyama Gen, Koiso Kuniaki, Nagata Tetsuzan und Tōjō Hideki geleitet wurde. Diese repräsentierte eine moderate Strömung in den Streitkräften im Gegensatz zu der radikalen Bewegung der Kōdō-ha (Aktionsgruppe) unter Leitung von Sadao Araki.
Zusammen mit dem HeeresministerAnami Korechika und dem Stabschef der japanischen Marine, Toyoda Soemu, sprach er sich im August 1945 gegen die Kapitulation Japans aus. Er glaubte, den Alliierten durch ein Fortführen der Kämpfe auf japanischem Gebiet schwere Verluste beibringen zu können, wovon er sich für Japan günstigere Friedensbedingungen versprach.
Japanischer Name: Wie in Japan üblich, steht in diesem Artikel der Familienname vor dem Vornamen. Somit ist Umezu der Familienname, Yoshijirō der Vorname.