Von der Gröben syntyi Itä-Preussin Schrengenissa (nykyinen Linkowo, Puola) ja liittyi Preussin armeijaan vuonna 1806. Hän palveli Anton Wilhelm von L'Estocqin alaisuudessa Napoleonin sodassa 1806/07. Vuonna 1812 Gröben jätti Preussin armeijan sen jälkeen, kun Preussin oli lähetettävä apulaisotilaita Napoleonin Venäjän kampanjaan, ja liittyi sen sijaan Venäjän keisarilliseen armeijaan. Hän osallistui Lützenin taisteluun.
Hänet ylennettiin Rittmeisteriksi Preussin pääesikunnassa elokuussa 1813. Von der Gröben haavoittui koko Dresdenin taistelussa ja taisteli Kulmin taistelussa ja Leipzigin taistelussa. Vuonna 1814 Gröben taisteli Luxemburgissa ja haavoittui uudelleen Gué-à-Tremessä. Heinäkuussa 1814 hänet ylennettiin majuriksi ja hän taisteli Lignyn ja Waterloon taisteluissa vuonna 1815. Hänestä tuli everstiluutnantti ja palveli Preussin Reinin korkeassa komennossa Koblenzissä.