Murakami est le fils aîné d'un samouraï du domaine de Saga. Il se rend dans la préfecture d'Ibaraki quand son père est nommé fonctionnaire du nouveau gouvernement de Meiji et commence des études de médecine. Il sort diplômé de la 11e promotion de l'académie navale impériale du Japon, étant classé 2e sur 26 cadets. Il sert sur de nombreux navires de la jeune marine impériale, comme sur les corvettes Tsukuba(en), Yamato(en), Jingei(en), Tenryū(en) et le croiseur Takachiho(en). Promu lieutenant en 1889, il est spécialisé en guerre de torpilles et est affecté comme artilleur en chef des torpilles sur le croiseur Yoshino en 1893 pendant un voyage d'un an jusqu'au Royaume-Uni.
Après la première guerre sino-japonaise, Murakami est attaché naval en France de à . Durant cette période, il est promu lieutenant-commandant puis commandant. De retour au Japon, il sert à divers postes avant d'être nommé commandant en second du Chin'en(en) en 1902. En , il reçoit son premier commandement sur le croiseur Chiyoda. Il est promu capitaine la même année et sert comme capitaine du Chiyoda au début de la guerre russo-japonaise. Le , il devient capitaine du croiseur Azuma.
Murakami est promu contre-amiral le et vice-amiral le . Il est ensuite directeur de l'arsenal naval de Kure, puis des commandes navales. C'est sur son insistance que le nouveau croiseur de batailleKongō est équipé de canons de 14 pouces au lieu de 12 pouces comme initialement prévu. Cependant, les plans de Murakami pour moderniser la marine japonaise et introduire de nouvelles technologies sont stoppés par le scandale Siemens.