Son premier roman, Tone no kawagiri(利根の川霧?), paru en 1934, reçoit un prix du Mainichi Shinbun. En 1940 il est gratifié du Prix Naoki pour son roman Kazusa Fudoki(上総風土記?).
Pendant l'occupation américaine du Japon, Murakami écrit un roman sur Sasaki Kojirō, le grand rival de Miyamoto Musashi. Le roman, qui parait dans l'Asahi Shinbun et qui connait une adaptation cinématographique en 1950, est remarquable pour avoir été l'un des rares exemples de jidaigeki à avoir survécu à la censure de l'époque. Il devient un écrivain emblématique de la renaissance de la littérature populaire japonaise d'après-guerre.
Plus tard, on peut citer parmi ses œuvres les plus connues Mitokōmon(水戸黄門?) et Katsu Kaishū(勝海舟?). Son récit sur Minamoto no Yoshitsune est adapté en série télévisée par la NHK.