Després de la invasió conjunta alemanya-soviètica de Polònia, que va començar la Segona Guerra Mundial el setembre de 1939, Augustów va ser ocupada
per la Unió Soviètica fins a 1941. Molts habitants van ser enviats a l'exili al Kazakhstan, des d'on alguns van poder tornar després de 6 anys. El 22 de juny de 1941, just abans que els alemanys capturessin la ciutat, els soviètics van assassinar al voltant de 30-34 presoners polonesos a Augustów com a part de les massacres de presoners del NKVD. Les forces alemanyes nazis van ocupar Augustów fins a 1944, i van operar un camp de treball forçat a la ciutat. La Segona Guerra Mundial va portar la destrucció d'aproximadament el 70% de la ciutat i la mort o la sortida de la majoria dels seus residents, entre ells una comunitat de diversos milers de jueus que van ser empresonats al gueto situat entre el canal i el riu. Els alemanys els van executar pràcticament a tots abans de marxar. El 1945 els soviètics van dur a terme la redada de Augustów propera, una operació especial contra els antics combatents anticomunistes de l'Armia Krajowa.