Dengan dimulainya Perang Dunia II, Polandia diserang oleh Jerman Nazi dan Uni Soviet, dan pada awalnya kota itu berada di bawah pendudukan Soviet
, sebagai akibat dari Pakta Molotov-Ribbentrop. Kota ini bergabung dengan SSR Belarus dari tahun 1939 hingga 1941 sebagai ibu kota Wilayah Belastok. Orang-orang Polandia didesportasi jauh ke Uni Soviet (Siberia, Kazakhstan, Utara Jauh). Selama invasi Jerman ke Uni Soviet pada tahun 1941, Białystok diduduki oleh Angkatan Darat Jerman pada tanggal 27 Juni 1941, selama Pertempuran Białystok-Minsk, dan kota ini menjadi ibu kota Bezirk Białystok, sebuah wilayah terpisah di Polandia yang diduduki Jerman, sampai tahun 1944. Sinagog Besar dibakar oleh Jerman pada tanggal 27 Juni 1941, dengan perkiraan jumlah 2.000 orang Yahudi di dalamnya.