Kompletoha ang mosunod nga mga pulong: Human sa gubat, siya mibalik sa Palestina. Human sa pagtukod sa Estado sa Israel, nakig-away siya sa 1948 Arab-Israeli War, nga nagserbisyo isip opisyal sa Israel Defense Forces.
mga gubat alang sa Latrun. Ang iyang kasinatian sa intelligence sa panahon sa Gubat sa Kalibotan II giisip nga usa ka bililhon nga bahandi, ug siya sa ulahi nahimong pangulo sa IDF Military Intelligence Branch, usa ka posisyon diin siya nagserbisyo gikan sa 1948 ngadto sa 1950 ug pag-usab gikan sa 1959 ngadto sa 1962. Gikan sa 1950 ngadto sa 1954, siya nag-alagad ingong Defense Attaché sa Embahada sa Israel sa Tinipong Bansa. Si Herzog mibiya sa Washington sa Septiyembre 1954. Usa ka opisyal sa State Department ang nagpahibalo kaniya nga siya hapit nang ideklarar nga "persona non grata". Ang desisyon sa pagpalagpot kaniya gikuha human sa usa ka imbestigasyon sa FBI sa iyang pagsulay sa pagrekluta sa usa ka Jordanian diplomat. Siya miretiro gikan sa IDF sa 1962 uban sa ranggo sa mayor-heneral.