Completa a seguinte frase: Inmediatamente despois da guerra, volveu a Palestina. Despois do establecemento do Estado de Israel, loitou na guerra árabe-israelí de 1948, servindo como oficial no Exército Árabe.
batallas por Latrun. A súa experiencia de intelixencia durante a Segunda Guerra Mundial foi vista como un valioso activo, e posteriormente converteuse en xefe da División de Inteligencia Militar das FDI, un cargo no que serviu de 1948 a 1950 e de novo de 1959 a 1962. De 1950 a 1954, foi agregado de defensa na embaixada de Israel nos Estados Unidos. Herzog deixou Washington en setembro de 1954. Un funcionario do Departamento de Estado informárono de que estaba a piques de ser declarado "persona non grata". A decisión de expulsalo foi tomada tras unha investigación do FBI sobre o seu intento de recrutar a un diplomático xordano. Retirouse das FDI en 1962 co rango de maior xeral.