La ville est mentionnée pour la première fois en 826 sous la forme Pirminiseusna, dans les registres de l'abbaye de Hornbach. Le nom remonte à Saint Pirmin, le fondateur de ce monastère auquel appartenait la colonie. Jusqu'en 1360/61, Pirmasens resta une paroisse dépendante du monastère de Hornbach.
Le s'y déroule le combat de Pirmasens entre l'Armée de la Moselle et les forces prussiennes et de Brunswick. Les Français perdent la bataille mais leurs troupes réoccupent la ville qui est ensuite rattachée à la France de 1793 à 1814, elle fait alors partie du département du Mont-Tonnerre.
La synagogue de la ville est détruite lors des nuits de cristal le .
La ville est bombardée par les Américains le et - une deuxième fois - le .
La ville est jumelée avec la ville française de Poissy dans les Yvelines dès les années 1960.
Après la chute du communisme et la réunification de l'Allemagne, Pirmasens a connu un afflux d’immigrants de Russie (principalement de la Russie blanche) qui prétendent être les descendants de soldats allemands capturés derrière le rideau de fer après la Seconde Guerre mondiale. Les immigrants russes prétendant être d’ascendance allemande ont obtenu le statut de résident permanent.
Le principal club de la ville est le FK 03 Pirmasens, qui évolue en cinquième division de football.
La ville dispose également d'un club de hockey sur glace. Les « Hornets » évoluent en seconde division nationale. Il est à remarquer que le gardien de but des « Hornets » est un Français frontalier F. Franck qui a fait ses armes en tant que gardien de but de football, passant par le centre de formation du Racing Club de Strasbourg. Il est également le petit-fils d'un des plus grands attaquants du 1. FC Kaiserslautern, E. Franck (années 1940).