Comezou a súa carreira loitando contra os exércitos revolucionarios de Francia. A principios das guerras da Primeira Coalición, viu a vitoria en Neerwinden en 1793, antes de ser derrotado en Wattignies 1793 e Fleurus 1794. En 1796, como xefe de todas as forzas austríacas no Rin, Carlos derrotou a Jean-Baptiste Jourdan en Amberg e Würzburg, e logo gañou unha vitoria en Emmendingen que forzou a Jean Victor Marie Moreau a retirarse ao outro lado do Rin. Tamén derrotou adversarios en Zúrich, Ostrach
, Stockach, e Messkirch en 1799. Reformou os exércitos de Austria para adoptar o principio de nación nas armas. En 1809, entrou na Guerra da Quinta Coalición e infligiu o primeiro grande revés de Napoleón en Aspern-Essling, antes de sufrir unha derrota na sangrienta Batalla de Wagram. Despois de Wagram, Carlos non viu máis acción significativa nas guerras napoleónicas.