Escriba una continuación para este párrafo - Høgh-Guldberg creció en Copenhague con padres ricos y bien conectados. En 1792 se convirtió en segundo teniente en el ejército danés, y en 1794 en primer teniente en el 1. Regimiento de Infantería de Jutlandia, en 1798 Capitán, en 1803 sirvió como oficial de personal y en 1806 se le dio su propia compañía. Sirvió durante las guerras inglesas.
El 28 de enero de 1809 fue galardonado con la Orden del Dannebrog y fue ascendido a mayor y nombrado jefe de batallón. En 1816 fue ascendido a teniente coronel y en 1823 fue ascendido a coronel y se trasladó a Aarhus para hacerse cargo de las fuerzas allí. 9 años después se retiró del ejército, pero permaneció en Aarhus.