Rutto aloitti uransa urheiluurheilijana. Hän voitti kultamitalin 2000 metrin steeplechasen IAAF World Youth Championships ja asetti maailman nuorten paras aika 5:30.27, uudistaa Neuvostoliiton juoksija Mykola Matyushenko ennätys, joka oli ollut voittamaton lähes kaksi vuosikymmentä. Rutto osoitti kykynsä edelleen toisen ennätyksen ajalla 5:27.64 tapahtumassa kaksi kuukautta myöhemmin Liegessa. Hän juoksi juniorijoukkueessa vuoden 2004 IAAF World Cross Country Championships -kilpailussa.
Hän pääsi seitsemänneksi ja oli osa voittoisaa Kenian juniorijoukkuetta. Myöhemmin samana kaudella hän palasi steeplechasingille radalla ja rakensi nuorisotitelinsä voittamalla vuoden 2004 maailman juniori-mestaruuskilpailussa, jossa hän saavutti henkilökohtaisen parhaan 8:23,32 3000 metrin steeplechasessa. Hän voitti Musa Amer Obaidin sprintillä maaliin ja jatkoi Kenian voittamatonta sarjaa kilpailussa.