Muslim mengubah setengah dari Gereja St. John menjadi Masjid Jumat kota (Masjid Agung al-Nuri) dan Homs segera menjadi pusat ketakwaan Islam karena sekitar 500 sahabat Muhammad menetap di sana setelah penaklukan. Makam Khalid ibn al-Walid, putranya Abd al-Rahman, dan Ubayd Allah, putra Khalifah Umar terletak di kota ini. Selama konflik
antara Umayyah dan Ali, penduduk Homs bersekutu dengan Ali dan ketika yang terakhir dikalahkan, khalifah Umayyah Mu'awiyah memotong bagian utara Jund Hims untuk membentuk distrik terpisah, Jund Qinnasrin, tampaknya sebagai hukuman. Oratorium Ali ("mash-had 'Ali") terletak di kota, dan tradisi Islam mengklaim sidik jarinya terukir di atasnya. Terlepas dari penindasan oleh Umayyah, Homs tetap menjadi pusat Islam Syiah untuk sementara waktu lagi. Sebagai kubu Banu Kalb, kota ini terlibat dalam konflik terakhir dengan faksi suku Qays. Khalifah Umayyah terakhir, Marwan II, menikmati dukungan dari Qais dan kemudian meruntuhkan tembok kota sebagai tanggapan terhadap pemberontakan oleh Banu Kalb.