Von der Gröben Schrengenben született, Kelet-Poroszországban (ma Linkowo, Lengyelország) és 1806-ban csatlakozott a porosz hadsereghez. Anton Wilhelm von L'Estocq parancsnoksága alatt szolgált az 1806/07 napóleoni háborúban. 1812-ben Gröben elhagyta a porosz hadsereget, miután Poroszországnak támogató csapatokat kellett bevetnie Napóleon orosz hadjáratában, és ehelyett csatlakozott a császári orosz hadsereghez. Részt vett a Lützen-i csatákban.
und Bautzen és visszatért a porosz szolgálatba, 1813 augusztusában előléptették Rittmeisternek a porosz főhadiszállásban. Von der Gröben megsebesült a drezdeni csata során, és részt vett a Kulmi és a Leipzigi csataiban. 1814-ben Gröben harcolt Luxembourgban, és ismét megsebesült Gué-à-Trème-ben. 1814 júliusában őrnagy lett, és harcolt a Ligny és Waterloo csatákban 1815-ben. Ezredeshelyettes lett, és Koblenzben szolgált a Porosz Rajna-főparancsnokságban.