Nihonmatsu kehittyi Edo-kaudella 1600–1800-luvuilla linnanaluskaupunkina ja Nihonmatsun daimiokunnan keskuksena Niwa-klaanin hallinnassa. Kaupunkioikeudet osana Japanin nykyistä kunnallishallintoa Nihonmatsu sai vuonna 1958. Kaupunki laajeni huomattavasti vuonna 2005, kun siihen liitettiin Adachin, Iwashiron ja Tōwan maaseutukaupungit.[4][5]