Leo, al cărui nume inițial era Konon, s-a născut în Germanikeia, în provincia siriană Commagene (Kahramanmaraş modernă din Turcia). Unii, inclusiv cronicarul bizantin Theophanes, au susținut că familia lui Konon a fost relocată în Tracia, unde a intrat în serviciul împăratului Iustinian al II-lea, când acesta din urmă avansa asupra Constantinopolului cu o armată de adepți loiali și călăreți furnizate de Tervel din Bulgaria în 705.
Konon