Iš karto po karo jis grįžo į Palestiną. Po Izraelio valstybės įkūrimo jis kovojo 1948 m. Arabų-Izraelio kare.
- Taip. Jo žvalgybos patirtis per Antrąjį pasaulinį karą buvo vertinama kaip vertingas turtas, o vėliau jis tapo Izraelio gynybos pajėgų karinės žvalgybos padalinio vadovu. Jis tarnavo nuo 1948 iki 1950 m. ir vėl nuo 1959 iki 1962 m. 1950-1954 m. jis dirbo Izraelio ambasadoje Jungtinėse Valstijose gynybos atašė. Hercogas išvyko iš Vašingtono 1954 metų rugsėjį. Valstybės departamento pareigūnas jam pranešė, kad jis netrukus bus paskelbtas "persona non grata". Sprendimas jį išsiųsti buvo priimtas po to, kai FTB ištyrė jo bandymą įdarbinti Jordanijos diplomatą. 1962 m. jis išėjo į pensiją iš IDF su general-mažoro laipsniu.