Heffermehl ble født i Sørfold i Nordland, som sønn av sogneprest til Folda prestegjeld og stortingsrepresentant Jørgen Meier Heffermehl og Marie Helene (født Støren). Familien flyttet til Gloppen kommune i Nordfjord i midt på 1840-tallet. Abraham Heffermehl ble senere res. kapellan på Breim i Gloppen.
I 1866 tok han over ordførervervet i kommunen etter sin far, og satt i en periode til 1869. Han flyttet deretter til Aust-Agder fylke, og ble der 2. representant til stortinget for Høyre i to perioder, for Nedenes amt. Han satt i periodene 1889-91 og 1892-94.[4]