Miturut riwayat-riwayat sing umum dikenal jroning tradhisi Islam, Umar mlebu Yerusalem sawisé penaklukan ing taun 638. Dicaritakaké yèn panjenengané ngendika karo Ka'ab Al-Ahbar, wong Yahudi sing wis mlebu Islam lan mèlu rawuh bebarengan saka Madinah, ngenani papan paling apik kanggo mbangun masjid. Al-Ahbar mrayogakaké supaya masjid dibangun ing samburiné watu Ash-Shakhrah "... mula kabèh Al-Quds (dumunung) ing ngarep panjenengan ". Umar ngendika, "Ka'ab, Panjenengan wis niru ajaran Yahudi".[24] Senadyan mangkono, sawisé pacelathon iku Umar nganggo jubahé miwiti ngresiki papan sing wis dikebaki runtah lan puing-puing kasebut. Semono uga kaum Muslim pengikuté mèlu ngresiki panggonan kasebut. Umar banjur ngayahi salat ing papan sing diyakini minangka papan salat Muhammad wektu Isra Mi'raj, lan Umar ing panggonan kasebut maca ayat-ayat Al-Qur'an saka Surat Sad.[23] Mula saka iku, miturut riwayat kasebut Umar dianggep wis nyucèkaké manèh situs kasebut minangka masjid.[25]