Haraldur var hálfbróðir Ólafs helga og var móðir beggja Ásta Guðbrandsdóttir. Fyrri maður hennar, Haraldur grenski, brann inni þegar Ólafur var í móðurkviði og hún giftist aftur Sigurði sýr, stórbónda í Hringaríki. Haraldur var yngsti sonur þeirra. Þegar Ólafur flúði til Rússlands 1028 undan Knúti ríka fór Haraldur hálfbróðir hans með, þá enn á barnsaldri, kom aftur með honum tveimur árum síðar og var einn fárra manna Ólafs sem komust undan úr Stiklastaðaorrustu. Hann flúði til Svíþjóðar og síðan um Rússland til Miklagarðs, þar sem hann gekk í sveit Væringja. Þar átti hann glæstan feril og var innan fárra ára orðinn foringi Væringja. Í sögu Haraldar er greint frá fjölda bardaga sem hann tók þátt í víða við Miðjarðarhaf.
Sagt er að Haraldur hafi haldið heim á leið þegar honum bárust fregnir af því að bróðursonur hans, Magnús góði Ólafsson, væri orðinn konungur í Noregi. Hann taldi sjálfan sig ekki síður réttborinn til konungs. Hann kom til Noregs hlaðinn gulli og gersemum eftir dvölina í Miklagarði og tókst innan tíðar að kaupa sér stuðning höfðingja, svo að 1046 neyddist Magnús til að samþykkja hann sem meðkonung og þegar Magnús dó eftir fall af hestbaki árið eftir varð Haraldur einn konungur.
Næstu árin styrkti hann mjög yfirráð sín í Austur-Noregi, þar sem meira og minna sjálfstæðir smákóngar og héraðshöfðingjar höfðu ríkt og verið hallir undir Danakonung. Haraldur hrifsaði völdin til sín og um leið yfirráð yfir versluninni við inn- og austurhéröð Noregs og sveifst einskis við það. Kann að mega rekja viðurnefni hans til þeirra átaka. Hann átti einnig í stríði við Svein Ástríðarson Danakonung.
Sumarið 1066 hugði Haraldur á landvinninga í Englandi. Hann gerði bandalag við Tósta jarl, útlægan bróður Haraldar Guðinasonar Englandskonungs, sigldi frá Noregi með 300 skip og tók land á Norður-Englandi. Haraldur Englandskonungur fór á móti honum og háðu þeir mikla orrustu við Stafnfurðubryggju, ekki langt frá Jórvík, þann 25. september, sem lauk með því að Haraldur harðráði féll ásamt stórum hluta manna sinna.
Haraldur kvæntist fyrst Ellisif, dóttur Jarisleifs fursta í Kænugarði (Elisaveta Jaroslavna af Kiev) og átti með henni dæturnar Maríu og Ingigerði, en fyrri maður hennar var Ólafur hungur Danakonungur og sá seinni Filippus Svíakonungur. Eftir að Haraldur kom til Noregs með Ellisif kvæntist hann einnig Þóru Þorbergsdóttur frá Giska og átti því tvær konur samtímis. Með Þóru átti hann synina Magnús og Ólaf kyrra, sem báðir urðu Noregskonungar. Eftir fall Haraldar giftist Þóra Sveini Ástríðarsyni Danakonungi.
