Z sovětského pohledu začala Velká vlastenecká válka v červnu 1941. V rozporu se smlouvou o neútočení německá armáda napadla Sovětský svaz. V červenci 1941 se Karl Linke a jeho syn Heinz dobrovolně přihlásili do Rudé armády, kde byla jedna z Linkeových rolí komisař v partizánské divizi, což byla role, kterou po dobu dvou let kombinoval s rolí (komunistického) "sekretáře strany" v partizánské skupině. V této funkci se účastnil padáckých operací za německými liniemi v oblasti Gomel. Během roku 1944 se jako vůdce průzkumné skupiny zúčastnil ozbrojených slovenských partyzánských operací a poté slovenského národního povstání proti vládě Osy, které vypuklo v srpnu a říjnu 1944. Válka.
skončil na začátku léta 1945 a Karl Linke se vrátil do Moskvy, trpěl zraněními utrpěnými ve válce a kvůli smrti svého syna Heinza, který byl zabit při boji se slovenskými partyzány.