Zijn eigen militaire genie bloeide op tijdens de Napoleontische oorlogen. Tijdens de campagne van 1805 diende Yermolov in de achter- en voorhoede en onderscheidde zich bij Amstetten en Austerlitz.
Ik weet het. Voor zijn daden werd hij gepromoveerd tot kolonel op 16 juli 1806. Het volgende jaar nam hij deel aan de campagne in Polen, in de voorhoede van prins Bagration. Hij onderscheidde zich als bevelhebber van een artilleriecompagnie in talrijke achterhoedeacties tijdens de terugtocht naar Landsberg en in de Slag bij Eylau. In juni 1807 gaf Yermolov het bevel over een cavalerie-artilleriecompagnie in de acties bij Guttstadt, Deppen, Heilsberg en Friedland. Hij werd bekroond met de Orde van St. George (3e klasse, 7 september 1807). Hij werd gepromoveerd tot generaal-majoor op 28 maart 1808 en werd benoemd tot inspecteur van paardenartilleriecompanies. Begin 1809 inspecteerde hij artilleriecompanies van het leger van de Donau. Hoewel zijn divisie deelnam aan de campagne van 1809 tegen Oostenrijk, leidde Yermolov de reserves in de provincies Volhynia en Podolsk, waar hij de komende twee jaar bleef. In 1811 nam hij het commando over de garde-artilleriecompagnie en in 1812 werd hij stafchef van het 1ste Westelijke Leger.