Gildemeister először rokonának, a brémeni építész J. E. Polzinnek tanult. 1843-ban beiratkozott a Karlsruhe-i Politechnikai Iskolába, majd később átment a Berliner Bauakademie-re; ezután Olaszországba és Görögországba tett tanulmányi kirándulásokat. Az 1848-as forradalom nyomán New Yorkba emigrált, ahol Georg Carstensennel együttműködve megtervezte a New York-i Kristálypalota építését, amely a
A Minden Nemzet Iparának kiállítása New Yorkban. Az 1857-es gazdasági válság hatással volt az üzletére, ezért visszatért Németországba, ahol a korai haláláig tanított a brémeni kereskedelmi művészeti iskolában. Ismert a brémeni városháza és a piactér részletes történelmi tanulmányozásáért.