Hariduse omandas ta Põltsamaa Aleksandri linnakoolis, mille lõpetamise järel liitus  vabatahtlikult armeega. 1899 alustas ta teenistust Pihkva kadetikorpuses.    1900-1902 õppis Andres Larka Vilniuse sõjakoolis, mille lõpetas 22. oktoobril 1902 esimese järgu diplomiga. Sõjakooli lõpetamisel omistati talle nooremleitnandi auaste ja ta asus teenima 113. Starorusski jalaväerügemendis. Sõjaväeteenistuse kõrvalt kuulus ta Eesti Kirjanduse Seltsi.    1904-1905 osales ta Vene-Jaapani sõjas 117. Jaroslavli jalaväerügemendi koosseisus. Pärast sõja lõppu jätkas Larka teenistust 113.  Starorusski rügemendis, kuid sooritas 1909 sisseastumiseksamid Peterburi Nikolai Sõjaväeakadeemiasse. Kolmeaastase õppetöö lõpetas ta 1912 esimese järgu diplomiga. Seejärel läbis ta sama õppeasutuse juures täienduskursused. 1913 saadeti Andres Larka stažeerima Vilniuse sõjaväeringkonna staapi, et omandada seal vajalik ettevalmistus töös kindralstaabis.