מלא את המשפט הבא: מיד לאחר המלחמה, הוא חזר לפלסטין. לאחר הקמתה של מדינת ישראל, הוא נלחם במלחמת ישראל-ערבים ב-1948, כקצין בצבא ישראל.
קרבות על לטרון. ניסיונו במודיעין במהלך מלחמת העולם השנייה נחשב לנכס יקר ערך, ולאחר מכן הוא הפך לראש אגף המודיעין הצבאי של צה"ל, בתפקיד שבו שירת מ-1948 עד 1950 ושוב מ-1959 עד 1962. משנת 1950 עד 1954, הוא שימש כעוזב ביטחוני בשגרירות ישראל בארצות הברית. הרצוג עזב את וושינגטון בספטמבר 1954. פקיד ממשרד החוץ הודיע לו שהוא עומד להיות "פרסונה נו-ג'ראטה". ההחלטה לגרש אותו נלקחה בעקבות חקירה של ה-FBI בניסיונו לגייס דיפלומט ירדני. הוא פרש מהצה"ל בשנת 1962 בדרגת מייג'ור-גנרל.