Po válce studoval Mackay fyziku na univerzitě v Cambridge pod vedením Ernesta Rutherforda, než se vrátil do Austrálie a začal pracovat jako lektor na univerzitě v Sydney. V letech 1933 až 1940 byl ředitelem Cranbrook School v Sydney. Mezi dvěma válkami zůstal v milici a v době, kdy vypukla druhá světová válka, byl generálem. V roce 1940 byl vybrán na velení 6. divize a vedl ji v prvních bitvách australské armády. Jakékoli pochybnosti o jeho schopnostech brzy zmizely s nasazením divize do Západní pouštní kampaně. Během bitvy u Bardy
V lednu 1941 6. divize dobyla opevněné město spolu s 36 000 italskými zajatci. V bitvě o Řecko se stal jediným australským generálem, který čelil "Waffen-SS" v bitvě. V Řecku utrpěl řadu neúspěchů, ale na vojáky pod jeho velením zapůsobil svou odvahou pod palbou. V roce 1941 byl odvolán do Austrálie, aby sloužil jako generální důstojník velitel domácích sil. 6. dubna 1942 převzal velení nad druhou armádou. Během roku 1943 dvakrát velel silám Nové Guineje v boji v kampani na Nové Guineji. Jeho aktivní služba skončila jmenováním vysokým komisařem v Indii v listopadu 1943.