2004 márciusában Gebremariam megmutatta, hogy teljes mértékben fejlődött a junior rangsorokból, két ezüstérmet nyert a világbajnokságon
, egyik a rövid pályán, a másik a hosszú pályán; lényegében, ha nem az ő honfitársa, Kenenisa Bekele, ő lenne az egyetlen két ember, aki valaha is nyert rövid és hosszú pályán győzelmeket ugyanazon bajnokságon. Az etióp nyári olimpiai 5000 méteres csapatba került Kenenisa Bekele-vel és Dejene Berhanu-val együtt, ahol negyedik lett, 0,25 másodperccel a kenyai Eliud Kipchoge bronzérmes mögött.