Filho de um vigário, Al Jarreau começou a cantar no coro de sua igreja aos quatro anos de idade, ao mesmo tempo em que se apresentava em uma variedade de eventos em Milwaukee, sua cidade natal, ao lado dos irmãos ou sozinho. Mas a música não foi a única atividade a qual se dedicou nessa época; sobressaiu, também, nos esportes e nos estudos, onde, por suas notas, foi considerado um aluno acima da média.[2] Na juventude, já estudando no respeitado Ripon College, em Wisconsin, e continuou a cantar nos finais de semana e feriados para se divertir, associando-se nessa época a um grupo local chamado The Indigos.[2]
Paralelamente, graduou-se como Bacharel em Psicologia. Após concluir seu mestrado, no final dos anos de 1960, mudou-se para San Francisco onde sua música começou a despontar ao cantar num pequeno clube de jazz, acompanhado por um trio liderado por George Duke. Mais tarde, morando em Los Angeles, cantou em casas noturnas famosas como a Dino’s, a The Troubador e o Bitter End West, o que lhe trouxe certa fama. Pouco tempo depois, trocou Los Angeles por Nova Iorque, onde ganhou exposição nacional ao apresentar-se em emissoras de televisão e programas populares como os de Johnny Carson.[3]
Em 1975, após uma pequena temporada estendida no Bla Bla Cafe, ainda em Los Angeles, ele foi descoberto por olheiros da Warner Bros Records e assinou um contrato de gravação. Seu primeiro álbum lançado pelo selo, We Got By, foi aclamado pelos críticos e alavancou sua fama internacional, chegando a receber um Grammy na Alemanha, fato que se repetiu com o lançamento de seu segundo álbum, Glow. Seu quarto álbum, All Fly Home, foi lançado em 1978 com muitos elogios na mídia, o que lhe rendeu um segundo Grammy nos Estados Unidos como melhor vocalista de Jazz. Nos anos de 1980, seu álbum Breakin 'Away (1981), que inclui seu hit "We're in This Love Together", foi campeão de vendas e lhe rendeu mais dois Grammy como o de Melhor Vocalista Pop Masculino e Melhor Vocalista Masculino de Jazz.[4]
Em 1985, esteve no Rock in Rio e cantou na mesma noite que James Taylor e George Benson, para um público recorde naquela edição do festival. Em 1992, com o álbum Heaven and Earth, ele recebeu seu quinto Grammy como Melhor Vocal de R&B.
O ano de 1996 trouxe um novo desafio para sua carreira: aceitou permanecer três meses na Broadway protagonizando o musical Grease com muito sucesso. Pela sua carreira, foi distinguido com uma estrela no Hollywood Walk of Fame.
Jarreau morreu em 12 de fevereiro de 2017.[5][6][7]