A háború után Mackay fizikát tanult a Cambridge-i Egyetemen Ernest Rutherford alatt, mielőtt visszatért Ausztráliába és a régi munkáját a Sydney-i Egyetemen. 1933 és 1940 között a Cranbrook School, Sydney igazgatója volt. A háborúk között a milíciában maradt, és a második világháború kitörésekor tábornok volt. 1940-ben a 6. hadosztály parancsnokává választották, és az ausztrál hadsereg első csatái során vezette. A képességével kapcsolatos minden kétség hamarosan eltűnt a hadosztály elkötelezettségével a nyugati sivatagi hadjáratban. A Bardia-i csata alatt
1941 januárjában a 6. hadosztály elfoglalta a várost 36 ezer olasz foglyal együtt. A görög csata során ő volt az egyetlen ausztrál tábornok, aki harcban állt szembe a Waffen-SS-szel. Görögországban számos vereséget szenvedett el, de lenyűgözte a parancsnoksága alatt álló csapatokat a tűz alatt tanúsított bátorságával. 1941-ben visszahívták Ausztráliába, hogy a hazai erők parancsnoki tiszteként szolgáljon. 1942. április 6-án átvette a második hadsereg parancsnokságát. 1943-ban kétszer vezényelte az Új-Guineai Erőt az Új-Guineai hadjáratban. Aktíva szolgálata azzal ért véget, hogy 1943 novemberében kinevezték India főbiztosává.