Nalika taun 1926, masjid iki mèlu ambruk akibat lindhu kang ngratakaké Padang Panjang lan sekitaré. Payoéné kang lima tingkat ambruk rong tingkat. Sawisé dilakokaké revovasi kanti tanpa ngubah wujud asliné, aktivitas-aktivitas ing masjid iki kang sadurungé pernah mandeg akibat lindhu wiwit diuri-uri manèh utamanè awit baliké Mahmud Yunus saka Mesir. Saliyané kagiyatan keagamaan, kagiyatan-kagiyatan kemasyarakatan kerep uga dianakaké ing lingkungan masjid iki. Ing jaman pendudukan Jepang, diwangun pelatihan ketentaraan kang dijenengi Barisan Pemuda Masjid Baiturrahman, lan nalika awal masa revolusi kemerdekaan, diwangun uga wadyabala Sabilillah, kang sebanjurè gabung karo Tentara Keamanan Rakyat (TKR).