2004 war er zunächst wieder bei den Crosslauf-Weltmeisterschaften erfolgreich. In Brüssel gewann er sowohl auf der Kurzstrecke als auch auf der Langstrecke die Silbermedaille, jeweils nur geschlagen von seinem Landsmann Kenenisa Bekele. Bei den Olympischen Spielen in Athen verpasste er als Vierter in 13:15,35 min eine Medaille im 5000-Meter-Lauf nur knapp.
2005 belegte er bei den Crosslauf-Weltmeisterschaften in Saint-Galmier den neunten Platz auf der Kurzstrecke, während er das Rennen auf der Langstrecke vorzeitig aufgab. Bei den Weltmeisterschaften 2005 in Helsinki belegte er im 10.000-Meter-Lauf den 15. Platz in 27:53,19 min. Es war ein eher enttäuschendes Ergebnis, nachdem er in diesem Jahr äthiopischer Landesmeister über 5000 und 10.000 Meter geworden war.[1] Im 10.000-Meter-Lauf wurde er bei den Weltmeisterschaften 2007 in Osaka Sechster in 27:44,58 min und gewann bei den Afrikaspielen in Algier die Bronzemedaille. Außerdem wurde er 2008 Afrikameister über diese Distanz.
2009 feierte er den bisher größten Erfolg seiner Karriere mit dem Gewinn der Crosslauf-Weltmeisterschaften in Amman. Dieser Sieg kam durchaus überraschend, nachdem Gebremariam bei seinen letzten beiden Teilnahmen 2006 in Fukuoka und 2008 in Edinburgh jeweils keine Platzierung unter den ersten zehn erreichen konnte. Bei den Weltmeisterschaften 2009 in Berlin belegte er im 10.000-Meter-Lauf den zehnten Platz.
Gebregziabher Gebremariam ist 1,78 m groß und brachte ein Wettkampfgewicht von 56 kg auf die Waage. Er ist mit der Langstreckenläuferin Werknesh Kidane (* 1981) verheiratet und Vater von zwei Söhnen.