Au début du Moyen Âge, la région d'Álava était le siège d'un diocèse éponyme, attesté du IXe au XIe siècle, qui a ensuite été supprimé et absorbé par le diocèse de Calahorra (aujourd'hui diocèse de Calahorra et La Calzada-Logroño).
En 1880, le séminaire diocésain a été inauguré, suivi du séminaire actuel en 1930.
Le 2 novembre 1949, en vertu de la bulle Quo commodius du pape Pie XII, elle cède les provinces de Biscaye et de Guipúzcoa en faveur de l'érection des diocèses de Bilbao et de Saint-Sébastien respectivement ; elle acquiert également le territoire de la commune de Condado de Treviño, qui appartenait auparavant au diocèse de Calahorra et La Calzada. À la même époque, saint Prudence de Tarazona(es) est proclamé patron principal du diocèse.
