Masjid Syuhada' diadegaké supaya para warga duwé panggon kanggo dedonga marang Gusti. Masjid Syuhada' iki dibangun ana ing dhaérah Kotabaru kang kondhang dadi dhaérah élit ing kutha Ngayogyakarta. Ing jaman dibanguné Masjid Syuhada', Kotabaru ya iku dhaérah kang akèh wong-wong kulit putih, wong Tionghoa kang pendhidhikané dhuwur ing Kulon lan wong-wong kang ana ing kelas dhuwur ing jaman semana. Nanging, nalika Walanda kalah marang Jepang, wong-wong Tionghoa kang ana ing dhaérah Kotabaru padha pindah lan omah-omah kang wis kosong dileboni déning wong-wong Jepang lan ana uga wong-wong pribumi kang agamané Islam ing kana. Amarga akèh wong-wong Indonésia kang muslim ing kana, wong-wong padha butuh panggon kang bisa kanggo dedonga umat muslim, ya iku masjid. Kabutuhan kuwi mau saya gedhé nalika pamaréntahan Indonésia dipindah ana ing kutha Ngayogyakarta. Nalika jaman semana, para tentara lan para wong enom kang mapan ana ing Kotabaru perlu papan kanggo salat Jemuwah. Amarga durung ana papan kanggo ibadah salat Jemuwah kuwi mau, para tentara lan pamuda Indonésia kang ngéwangi pamaréntahan Indonésia ing Ngayogyakarta nglakokaké salat ana ing papan panggonan saliyané masjid. Papan kang digunakaké para tentara lan pamuda Indonésia ing Kotabaru pindah-pindah lan uga tau ing gereja Protéstan kang wis ora digunakaké manèh. Sawisé kuwi, banjur dibentuk panitia kanggo bangun masjid lan panitia kuwi mau wis dibentuk kaping telu.