Hans morfars kusin var den berömde spanska diplomaten och författaren Salvador de Madariaga. Hans mormor var den berömda näringslivshistorikern Constance Archibald de Madariaga. Hans mor Nieves Hayat de Madariaga Mathews arbetade över 20 år för FAO och gav 1996 ut en bok om Sir Francis Bacon. Solanas farfar var författaren Don Ezequiel Solana Ramirez. Solanas äldre bror Luís Solana de Madariaga var tidigare ordförande för ett spanskt telefonbolag.
Från 1959 studerade han vid Madrids universitet och har doktorsgrad i fysik. 1963 förvisades han från universitetet på grund av sitt engagemang i oppositionsrörelsen mot diktatorn Francisco Franco och blev 1964 medlem av det spanska socialistpartiet. Solana flyttade till Nederländerna och därefter till Storbritannien. Han levde senare en längre tid i USA med hjälp av ett Fulbright-stipendium. Han promoverades 1968 på University of Virginia och forskade och undervisade där fram till 1971 då han återvände till Spanien. Fyra år senare utsågs han till professor i Madrid.
1977 valdes han in i parlamentet för Spanska socialistiska arbetarpartiet, som representant för lärarnas fackförening. Han blev kulturminister 1982 under premiärminister Felipe González, hans nära personliga vän, och 1988 utbildningsminister. Under några år var han regeringens talesperson. 1992 utnämndes han till utrikesminister, och hade den positionen när Spanien var ordförandeland för EU 1995. Solana höll då Barcelonakonferensen i november, för vilket han vann internationell uppskattning. Några veckor därefter utsågs han till generalsekreterare för Nato, efter att företrädaren Willy Claes avgått efter en korruptionsskandal.
Solana är gift med Concepción Giménez, dotter till en av Francos generaler. Han har två vuxna barn.