Andrei Glebovas gimė rusų kilmingoje šeimoje, kilusioje iš Černigovo gubernatorijos. Jis pradėjo tarnauti kariuomenėje, kai jam buvo 20 metų, Livonijoje. 1791 m. Sausio mėn. įstojęs į Lifland Jager korpuso 3-ąjį batalioną, jis 1792-1794 m. tarnavo Lenkijoje. 1797 m. liepos 30 d. jis buvo perkeltas į 7-ąjį (vėliau 6-ąjį) Jagerų pulką. 1799 m. Italijos ir Šveicarijos kampanijose, kurias vadovavo "generalissimas" Aleksandras Suvorovas, Glebovas išsiskyrė per mūšius prie Brescijos (1799 m. Balandžio 10 d.) ir prie Lecco (1799 m. Balandžio 26-28 d.), per kuriuos jis buvo sužeistas kairėje kojoje. Už savo darbus Lecko mūšyje jis buvo apdovanotas Šv. Anos 4-osios klasės ordinu. Vėliau jis tęsė veiklą Marengo, Tidone ir Trebbia. Per Trebijos mūšį jis buvo sužeistas dešinėje kojoje, o vėliau buvo paaukštintas į "portupei-junker", kuris yra kažkas panašaus į "elito kadetų laipsnį", skirtas tik šlovingams kariams. Jis tęsė karinius veiksmus Novyje
, kur jis buvo sužeistas galvoje. 1799 m. rugpjūčio 25 d. jis buvo paaukštintas į sub-lieutenantą ir toliau kovojo prie Sankt Gotardo (sužeistas kairėje rankoje) ir Švandene; pastaruoju metu jis buvo sužeistas galvoje ir buvo suimtas prancūzų kariuomenės. Jis dvejus metus buvo prancūzų nelaisvėje.