A cidade foi fundada no século XIII nas proximidades de uma jazida de prata. Pela primeira vez na Europa Central, para além da legislação municipal foi aqui codificado antigo códex mineiro que se tornou um modelo para muitas outras cidades mineiras.
Até hoje é possível ver um labirinto de corredores subterrâneos de Século XIII.
Os mais importantes monumentos são Igreja de São Jacob (identificada como Monumento Nacional), Igreja de São Inácio, Praça de Masaryk com Câmara Municipal e Porta da Mãe de Deus.
Jihlava é ainda uma cidade da cultura – o notável teatro (em checo: Horácké divadlo) ou museus, cidade de desporto – clube desportivo de futebol FC Vysočina ou clube desportivo do hóquei no gelo HC Dukla Jihlava, e ponto de lazer – por exemplo Jardim Zoológico.
Gustav Mahler, famoso regente e compositorcheco, passou sua infância e adolescência em uma casa no centro da cidade, hoje chamada de Casa de Gustav Mahler.