Í mars 2004 sýndi Gebremariam að hann hafði náð fullum framförum frá yngri flokkum með því að vinna tvö silfurverðlaun á heimsmeistaramótinu í langhlaupum.
, einn á stuttum námskeiði og einn á löngum námskeiði; í raun, ef það væri ekki fyrir landsmanninn sinn Kenenisa Bekele, væri hann einn af aðeins tveimur mönnum sem hefðu krafist stutta og langa námskeiðsigra á sömu meistaramótinu. Hann var valinn í 5000 metra liðið á Sumarólympíuleikunum í Eþíópíu ásamt Kenenisa Bekele og Dejene Berhanu, þar sem hann endaði í fjórða sæti, 0.25 sekúndur á eftir bronsverðlaunahafi Eliud Kipchoge frá Kenía.