Papan panggona masjid iki ora uwal sak sajarah ngadegé Nagari Sungayang nalika taun 1892, kang sedurunge ing jaman kolonial Walanda wewengkoné digabungaké karo Nagari Tanjung. Sawisé dumadi, Datuk Paduko Rajo diangkat miangka kepala nagari déning Walanda, lan nalika taun 1910, dhèwèké digantikaké déning Datuk Gadang Majo Lelo. Sajeroning salah siji musyawarah kang dianakaké déning Datuk Gadang Majo Lelo, masarakat Nagari Sungayang sepakat kanggo yasa salah sijiné masjid, balai adat, pasar, lan kantor nagari. Nalika 27 Dhésèmber 1916, pembangunan masjid rampung dikerjakaké lan diresmikaké kanti jeneng Masjid Baiturrahman.