Pirmasis Kipyego tarptautinis pasiekimas buvo 2005 m. Pasaulio krepšinio lenktynių čempionate, kur jis laimėjo sidabro medalį jaunimo lenktynių metu, kartu su Augustinu Choge ir Barnabas Kosgei. 2007 m. Pasaulio kreiso lenktynių čempionate
jis laimėjo bronzinį medalį vyresnio amžiaus lenktynėse, o Kenijos komanda, kurios jis buvo dalis, laimėjo komandinį varžybas. 2008 m. jis užėmė dešimtą vietą individualiai ir laimėjo dar vieną komandinį aukso medalį. Jis taip pat dalyvavo 2008 m. IAAF pasaulio lengvosios atletikos finalėje, užimdamas aštuntą vietą 5000 metrų lenktynėse.