Después de ser derrotado en la rebelión, Caldas, temiendo represalias, escapó a Popayán, pero encontrando que había sido alcanzado por las tropas reales comandadas por el futuro virrey Juan Sámano, fue entonces a la provincia de Antioquia. Antioquia había declarado su independencia como el "Estado de Antioquia" o el "Estado Libre y Soberano de Antioquia". El estado de Antioquia había nombrado a Juan del Corral como dictador, y del Corral dio la bienvenida a Caldas y lo nombró para crear una Escuela Militar y como Director de Fábricas de Rifles e Ingeniero General, además de darle el rango de Coronel. Como ingeniero, Caldas estaba a cargo de la construcción de edificios, molinos de pólvora y fábricas de armas, así como de la acuñación de monedas. También enseñó en la Academia de Ingenieros de Medellín, en 1814. Entre 1813 y 1814, se hizo cargo de las fortificaciones a lo largo del río Cauca y la instalación de una fábrica de rifles y pólvora. A finales de 1814, Nariño había sido derrotado y arrestado por la corona española, y Bolívar y su ejército habían forzado la sumisión de Cundinamarca a las Provincias Unidas. El gobierno general federalista, que se había establecido en Santafé, con crecientes preocupaciones sobre la posibilidad de una reconquista española
Tras el comienzo de la campaña de Morillo, entonces llamó a Caldas para que lo designara con la creación de una Escuela Militar similar, y para construir puentes, trincheras y fortificaciones alrededor de la ciudad. Fue enviado al ejército del norte y para fortificar caminos en Quindío.