S vypuknutím druhej svetovej vojny prevzalo vrchné veliteľstvo nemeckej armády (OKH) svoju vojnovú organizáciu. Heusinger sprevádzal terénny personál a pomáhal pri plánovaní operácií pre invázie do Poľska, Dánska
, Nórsko, Francúzsko a Holandsko. Dňa 1. augusta 1940 bol povýšený na plukovníka a v októbri 1940 sa stal veliteľom "Operationsabteilung", čím sa stal tretím v hierarchii plánovania armády, po veliteľovi generálneho štábu generálovi Franzovi Halderovi a zástupcovi veliteľa generálneho štábu / veliteľovi štvrťáku generálovi Friedrichovi Paulusovi.