Før han blei rikspolitikar, var Fjærvoll ordførar i Hadsel kommune. Han var utdanna lærar frå Oslo lærerskole og har tilleggsutdanning i matematikk og rådgjevingsfag. Han var også lærar, undervisingsinspektør og rektor på Melbu skole. Fjærvoll var busett på Stokmarknes og etter den politiske karrieren var han arbeidande styreleiar for Vesterålen Høgskolesenter på Stokmarknes.
Far til Dag Jostein Fjærvoll, Edmund Fjærvoll, var stortingsrepresentant for Nordland KrF i to periodar, 1961–1965 og 1969–1973. Anne Orderud Paust var Fjærvoll sin sekretær då han var forsvarsminister.