A második világháborút indító német-szovjet közös lengyelországi invázió idején Ostrów Mazowieckát 1939. szeptember 8-án elfoglalta Németország, és szeptember közepén az "Einsatzgruppe V" belépett a városba, hogy különféle kegyetlenségeket kövessen el a lakosság ellen. Már szeptember 19-én a németek kilenc lengyelt tartóztattak le, köztük Włodzimierz Gadomski és Jan Radbalski helyi veterán szervezetek elnökeit. 1939. november 9-én az egyik német katona felgyújtotta a 3-ego Maja utcai épületeket. A német hatóságok a zsidókat vádolták a tűzgyújtással. November 11-én (bár más források szerint november 10-én) 500-800 zsidót öltek meg. A lengyel földalatti ellenállási mozgalom már 1939 őszén szerveződött. 1943. május 25-én a lengyel ellenállás sikeresen meggyilkolta a helyi német adminisztráció vezetőjét, amiért a németek megtorlásul mintegy 140 lengyelt mészároltak le. A
A német megszállás 1944-ben ért véget.