Нарадзіўся ў сям’і хасідаў, адной з найстарэйшых у горадзе. Маці Габера памерла падчас родаў. Яго бацька быў вядомым у горадзе гандляром. Пазней Габер адмовіўся ад іўдаізму і прыняў хрысціянства. У 1886—1891 гадах навучаўся ў Гайдэльбергскім універсітэце пад кіраўніцтвам Роберта Бунзена, у Берлінскім універсітэце ў групе Аўгуста Вільгельма Гофмана і ў Тэхнічным каледжы Шарлотэнбург пад кіраўніцтвам Карла Лібермана. У 1901 годзе Габер ажаніўся з Кларай Імервар. Клара таксама была хімікам і была катэгарычна супраць работ Габера ў галіне хімічнай зброі. Пасля адной са спрэчак з мужам на гэту тэму яна здзейсніла самагубства, стрэліла сабе ў сэрца. Іх сын Герман, народжаны ў 1902 годзе, пазней таксама ўчыніць самагубства, не вытрымаўшы сораму за распрацаваную яго бацькам хімічную зброю і наступствы яе прымянення. Перш чым пачаць сваю ўласную навуковую працу, Герман працаваў у бацькі і ў Швейцарскай вышэйшай тэхнічнай школе Цюрыха разам з Георгам Лангам.
У 1933 годзе, нягледзячы на падтрымку нацыстаў, Габер вымушаны эміграваць у Англію, дзе нейкі час працаваў у Кембрыджскім універсітэце. Памёр у 1934 годзе ў швейцарскім Базелі, дзе і пахаваны ў сямейным склепе побач жонкі.[8]