Gildemeister se poprvé učil u svého příbuzného, brémského architekta J. E. Polzina. V roce 1843 se přihlásil na polytechnickou školu v Karlsruhe, později přešel na berlínskou Bauakademie; následovaly studijní cesty do Itálie a Řecka. V důsledku revoluce roku 1848 emigroval do New Yorku, kde ve spolupráci s Georgem Carstensenem navrhl newyorský Crystal Palace, který byl součástí
Výstava průmyslu všech národů v New Yorku. Jeho podnikání postihlo hospodářská krize v roce 1857, vrátil se do Německa, kde učil na komerční umělecké škole v Brémách až do své předčasné smrti. Je známý svými podrobnými historickými studiemi brémské radnice a tržiště.