El partit es va fundar l'any 1960 arran d'una escissió del Partit Socialista del Japó liderada per Suehiro Nishio.[1] Va estar formada per alguns membres de la branca "dretana" del Partit Socialista, que ja s'havien escindit prèviament l'any 1948 i es tornaren a unir el 1955.
Documents desclasificats del govern dels EUA van revelar que els fons de la CIA van finançar la creació d'aquesta escissió del PSJ.[2] Va tenir com a objectiu moderar i subvertir l'oposició política del conservador Partit Liberal Democràtic, que era el principal partit finançat per la CIA.[3][4]
El partit recolzava la construcció de l'estat del benestar, s'oposava al totalitarisme i apostava fortament per l'aliança entre el Japó i els EUA. Aquest posicionament pro EUA i anticomunista va fer que el PLD tinguera per molt de temps majoria en la Dieta Imperial. Gran part del seu finançament provenia de la Confederació Japonesa del Treball o Dōmei, sindicat del sector privat de tall conservador.
El 1994 el PSD es va dissoldre per unir-se al Partit de la Nova Frontera.[1] L'any 1996 el PSJ es va esdevindre el Partit Socialdemòcrata. Dos anys després, el 1998, el PNF es va dissoldre i molts antics membres del PSD van unir-se al Partit Democràtic del Japó. Tot i la dissolució del partit l'any 1994, les seues joventuts van continuar existint fins a l'any 2003 i fou membre de la Unió Internacional de les Joventuts Socialistes. Després de la seua dissolució, alguns anticsm membres i socialdemòcrates independents van crear una nova organització del jovent, Jóvens Socialistes, qui va continuar sent membre de l'UIJV. Finalment, aquesta nova organització es va dissoldre el 8 de març de 2008 sense cap successor i abandonant l'organització internacional.
