Rutto aloitti uransa urheiluurheilijana. Hän voitti kultamitalin 2000 metrin steeplechasen IAAF World Youth Championships ja asetti maailman nuorten paras aika 5:30.27, uudistaa Neuvostoliiton juoksija Mykola Matyushenko ennätys, joka oli ollut voittamaton lähes kaksi vuosikymmentä. Rutto osoitti kykynsä edelleen toisen ennätyksen ajalla 5:27.64 tapahtumassa kaksi kuukautta myöhemmin Liegessa. Hän juoksi juniorijoukkueessa.
2004 IAAF World Cross Country Championships ja sijoittui seitsemänneksi, muodostaen osan voittoisaa Kenian juniorijoukkueesta. Myöhemmin samana kaudella hän palasi steeplechasingille radalla ja rakensi nuorisotitelinsä voittamalla vuoden 2004 maailman juniori-mestaruuskilpailussa, jossa hän saavutti henkilökohtaisen parhaan 8:23,32 3000 metrin steeplechasessa. Hän voitti Musa Amer Obaidin sprintillä maaliin ja jatkoi Kenian voittamatonta sarjaa kilpailussa.