Po porážce v povstání, Caldas, obávající se represí, utekl do Popayánu, ale zjistil, že byl předstižen královskými vojsky pod velením budoucího vicekrále Juana Sámana, a odešel do provincie Antioquia. Antioquia vyhlásila nezávislost jako "Stát Antioquia" nebo "Svobodný a suverénní stát Antioquia". Stát Antioquia jmenoval Juana del Corrala diktátorem a del Corral přivítal Caldase a jmenoval ho k vytvoření vojenské školy a ředitelem puškových továren a generálním inženýrem, stejně jako mu dal hodnost plukovníka. Jako inženýr měl Caldas na starosti stavbu budov, továrny na prášek, továrny na zbraně a tiskařství mincí. V roce 1814 také vyučoval na Akademii inženýrů v Medellíně. Mezi lety 1813 a 1814 se ujímal opevnění podél řeky Cauca a instalace továrny na pušky a střelný prach. Do konce roku 1814 byl Nariño poražen a zatčen španělskou korunou a Bolívar a jeho armáda přinutili Cundinamarku podřídit se Spojeným provinciím. Federální generální vláda, která byla založena v Santafé, s rostoucí obavy o možnost španělského znovuzískání
Po začátku Morillova tažení, pak zavolal Caldasu, aby ho pověřil vytvořením podobné vojenské školy a stavbou mostů, zákopů a opevnění kolem města. Byl poslán k severní armádě a k opevňování silnic v Quindío.