À la suite des élections générales de 1989, il est élu deuxième vice-président de la commission de contrôle parlementaire de la radio-télévision publique. Deux ans plus tard, il retrouve le conseil municipal de Vitoria-Gasteiz, et est choisi comme premier adjoint par le maire nationaliste, José Ángel Cuerda. Parallèlement, il ne renouvelle pas son mandat au sein des institutions locales de la province d'Alava.
Carrière sénatoriale
Lors des élections générales de 1993, il est élu sénateur d'Álava avec 36 645 voix, soit le deuxième meilleur score provincial. Deux ans plus tard, il devient secrétaire général de la fédération du PSE-PSOE dans sa province d'élection. En 1996, il renonce à ses fonctions à la mairie de Vitoria, puis devient second vice-président du Sénat après les élections générales de 2000. Cette même année, il est choisi comme président de la fédération socialiste d'Álava.
Trois ans plus tard, il est réélu aux Juntes générales d'Alava, qu'il quitte dès l'année suivante. Le , Javier Rojo est élu président du Sénat, par 128 voix contre 123[1], après avoir obtenu le soutien de l'ensemble des formations de l'assemblée, à l'exception du Parti populaire (PP), qui constituait le groupe majoritaire[2]. Il est réélu le , par 134 voix et 117 bulletins blancs[3].