במהלך רוב המלחמה הסינית-יפנית השנייה ובגלל הסכם הנייטרליות הסובייטי-יפני, מונגוליה הפנימית הייתה בעיקר אזור דומם, וצבא הגריסון המונגולי, עם חיל הפרשים העתיק שלו, פעל בעיקר כדי לסייע ולהכשיר את הצבא הלאומי מנגג'יאנג ואת חיל הפרשים המונגולי. היא לא הייתה מוכנה לתקיפה הנשקתית הגדולה של הצבא האדום הסובייטי.
בסוף מלחמת העולם השנייה. צבא הגריסון המונגולי פורק רשמית ב-27 ביולי 1946. רבים מהניצולים שלה הפכו לאסירים יפנים של מלחמה בברית המועצות.