Lengkepan kalimah di handap ieu: Sanggeus perang, manéhna balik deui ka Palestina. Sanggeus ngadegna Nagara Israél, manéhna tarung dina 1948 Perang Arab-Israél, ngawula salaku perwira di
perang pikeun Latrun. Pangalaman intelijen na salila Perang Dunya II ditempo salaku asset berharga, sarta manéhna saterusna jadi kapala IDF Militér Intelijen Cabang, hiji posisi di mana manéhna dilayanan ti 1948 nepi ka 1950 jeung deui ti 1959 nepi ka 1962. Ti taun 1950 nepi ka 1954, anjeunna ngajabat salaku ataché pertahanan di Kedubes Israél di Amérika Serikat. Herzog ninggalkeun Washington dina bulan Séptémber 1954. Hiji pajabat Departemen Luar Negeri geus ngabéjaan manéhna yén manéhna rék dinyatakeun "persona non grata". Kaputusan pikeun ngaluarkeun anjeunna parantos dicandak saatos panyilidikan FBI kana usaha na pikeun ngarékrut diplomat Yordania. Manéhna pensiunan ti IDF dina taun 1962 kalawan pangkat mayor-general.