Despois de ser derrotado na rebelión, Caldas, temendo represalias, fuxiu a Popayán, pero ao descubrir que fora alcanzado polas tropas reais comandadas polo futuro virrei Juan Sámano, foi entón á provincia de Antioquia. Antioquia declarara a independencia como o "Estado de Antioquia" ou o "Estado Libre e Soberano de Antioquia". O estado de Antioquia nomeara a Juan del Corral como ditador, e del Corral recibiu a Caldas e nomeouno para crear unha Escola Militar e como Director de Fábricas de Rifles e Enxeñeiro Xeral, así como darlle o rango de Coronel. Como enxeñeiro, Caldas estaba encargado de erixir edificios, fábricas de pólvora e armas, así como de acuñar moedas. Tamén ensinou na Academia de Enxeñeiros de Medellín, en 1814. Entre 1813 e 1814, encargouse das fortificacións ao longo do río Cauca e da instalación dunha fábrica de rifles e pólvora. A finais de 1814, Nariño fora derrotado e arrestado pola coroa española, e Bolívar e o seu exército forzaron a sumisión de Cundinamarca ás Provincias Unidas. O Goberno Xeral federalista, establecido en Santafé, con crecente preocupación pola posibilidade dunha reconquista española
Despois do comezo da campaña de Morillo, chamou a Caldas para encargalo da creación dunha escola militar semellante, e para construír pontes, trincheiras e fortificacións ao redor da cidade. Foi enviado ao exército do norte e para fortificar as estradas de Quindío.