Иоганн II родился в Зиммерне в 1492 году и был старшим выжившим сыном Иоганна I, пфальцграфа Зиммерна. В 1508 году он женился на Беатрисе Баденской (22 января 1492 — 4 апреля 1535), дочери маркграфа Кристофа I. Дети:
Екатерина (27 марта 1510 — 22 марта 1572), аббатиса в Кюмбдхене
Иоганна (1 июля 1512 — 2 февраля 1581), аббатиса в Боппарде
Оттилия (4 ноября 1513 — 6 сентября 1553), монахиня в Боппарда
Фридрих III (14 февраля 1515 — 26 октября 1576), пфальцграф Зиммерна и курфюрст Пфальца[2]
В 1509 году он наследовал отцу и стал пфальцграфом Зиммерна. Иоганн II разрешил основать печатный дом в своей столице и был покровителем скульптуры. Он ввёл Реформацию в Зиммерне, что привело к ухудшению отношений с соседями: архиепископством Трира и Майнца.