Po bendros Vokietijos ir Sovietų Sąjungos invazijos į Lenkiją, 1939 m. rugsėjo mėn. prasidėjus Antrajam pasauliniam karui, Augustovas buvo okupuotas.
Sovietų Sąjunga iki 1941 m. Daugelis gyventojų buvo ištremti į Kazachstaną, iš kur kai kurie sugebėjo grįžti po 6 metų. 1941 m. birželio 22 d., prieš vokiečiai užimdami miestą, sovietai nužudė maždaug 30-34 lenkų kalinius Augustove, kaip NKVD kalinių žudynes. Nacių vokiečių pajėgos Augustovą okupavo iki 1944 m. ir mieste veikė priverstinio darbo stovykla. Antrojo pasaulinio karo metu buvo sunaikinta apie 70% miesto ir dauguma jo gyventojų žuvo arba išvyko, tarp jų - keli tūkstančiai žydų, kurie buvo įkalinti getoje tarp kanalo ir upės. Prieš išvykdami vokiečiai beveik visus išžudė. 1945 m. sovietai surengė netoliese esančią Augustovo operaciją - specialią operaciją prieš buvusius Armia Krajowa antikomunistų kovotojus.