Город был основан в XIII веке. Развитие города было связано с обнаружением в его окрестностях залежей серебра. До 1416 года город являлся собственностью пражского архиепископа, во время и после гуситских войн неоднократно менял хозяина. В 1440-х годах здесь прошло четыре съезда, ставивших целью примирить между собой различные христианские конфессии Чехии. С 1596 года Пельгржимов получил статус королевского города.