বর্তমান স্থাপনাটি উমাইয়া যুগের। দ্বিতীয় খলিফা উমর ইবনুল খাত্তাব প্রথম এখানে একটি মসজিদ নির্মাণ করেছিলেন। কয়েকজন মুসলিম পন্ডিত যেমন মুজিরউদ্দিন আল-উলাইমি, জালালউদ্দিন সুয়ুতি ও শামসউদ্দিন আল-মুকাদ্দাসি বলেন যে খলিফা আবদুল মালিক ৬৯০ খ্রিষ্টাব্দে মসজিদ পুনর্নির্মাণ ও সম্প্রসারণ করেন। সেসাথে তিনি কুব্বাত আস সাখরা নির্মাণ করেন। আবদুল মালিক মসজিদের কেন্দ্রীয় অক্ষ প্রায় পশ্চিমে সরিয়ে আনেন যা হারাম আল শরিফ নিয়ে তার সামগ্রিক পরিকল্পনার অংশ ছিল। পুরনো অক্ষ একটি মিহরাব দ্বারা চিহ্নিত করা হয় যা "উমরের মিহরাব" বলে পরিচিত। কুব্বাত আস সাখরার উপর গুরুত্ব দিয়ে আবদুল মালিক তার স্থপতিদের দ্বারা নতুন মসজিদকে সাখরার সাথে এক সারিতে আনেন।

অন্যদিকে ক্রিসওয়েলের মতে আবদুল মালিকের ছেলে প্রথম আল ওয়ালিদ মসজিদ পুনর্নির্মাণ করেন এবং দামেস্কের কর্মরা এতে কাজ করে। অধিকাংশ পন্ডিতদের একমত যে মসজিদের পুনর্নির্মাণ আবদুল মালিকের সময় শুরু হয় এবং আল ওয়ালিদের সময় তা শেষ হয়। ৭১৩-১৪ খ্রিষ্টাব্দে কয়েকটি ভূমিকম্পে জেরুজালেমের ক্ষতি হয় এবং মসজিদের পূর্ব অংশ ধ্বংস হয়। এ কারণে আল-ওয়ালিদের শাসনামলে পুনর্নির্মাণের প্রয়োজন হয়ে পড়ে।

প্রথম কিবলা
অজুর স্থান
উমাইয়া যুগের নির্মাণ
আধুনিক যুগ