השלים את המשפט הבא: ה-NKVD עצר את מרצקוב בתחילת הפלישה לברית המועצות. הוא שוחרר חודשיים לאחר מכן, וחזר להפקד על הצבא השביעי ולאחר מכן על חזית וולחוב במהלך המצור על לנינגרד בין השנים 1941-1944. הוא פיקד על החזית הקרלית החל מפברואר 1944, ובמיוחד על מתקפת פטסמו-קירקנס באוקטובר 1944. מאפריל 1945 הוא הועבר למזרח הרחוק, שם פיקד בחזית במהלך
הפלישה הסובייטית למנצ'וריה היפנית. במהלך המלחמה הוא הגיע לדרגת מרשל ברית המועצות.