Ikteb kontinwazzjoni għal dan il-paragrafu - Immedjatament wara l-gwerra, hu rritorna lejn il-Palestina. Wara t-twaqqif tal-Istat ta 'Iżrael, huwa kjempet fil-Gwerra Għarbija-Iżraelja tal-1948, u serva bħala uffiċjal fil-battalji għal Latrun.
. ħsieb L-esperjenza tal-intelligence tiegħu matul it-Tieni Gwerra Dinjija kienet meqjusa bħala assi prezzjuż, u sussegwentement sar kap tal-Fergħa tal-Intelligence Militari tal-IDF, pożizzjoni li fiha serva mill-1948 sal-1950 u mill-1959 sal-1962. Mill-1950 sal-1954, huwa serva bħala attaché tad-difiża fl-Ambaxxata Iżraeljana fl-Istati Uniti. Herzog telaq minn Washington f'Settembru ta' l-1954. Uffiċjal tad- Dipartiment ta'l- Istat kien għarraflu li kien se jiġi ddikjarat "persona non grata". Id-deċiżjoni li jitkeċċiet kienet ittieħdet wara investigazzjoni tal-FBI dwar it-tentattiv tiegħu li jirrekluta diplomatiku Ġordan. Huwa rtira mill-IDF fl-1962 bir-rank ta' maġġur-ġeneral.