হিজরতের পর মুহাম্মদ এই মসজিদ নির্মাণ করেন। তিনি একটি উটে চড়ে মসজিদের স্থানে আসেন। এই স্থানটি দুইজন বালকের মালিকানায় ছিল। তারা মসজিদের জন্য জায়গাটি বিনামূল্যে উপহার হিসেবে দিতে চাইলেও মুহাম্মদ জায়গাটি কিনে নেন। এরপর এখানে মসজিদ নির্মিত হয়। এর আকার ছিল × . খেজুর গাছের খুটি দিয়ে ছাদের কাঠামো ধরে রাখা হয়। ছাদে খেজুর পাতা ও কাদার আস্তরণ দেয়া হয়। এর উচ্চতা ছিল . এর তিনটি দরজা ছিল দক্ষিণে বাব-আল-রহমত, পশ্চিমদিকে বাব-আল-জিবরিল এবং পূর্বদিকে বাব-আল-নিসা।

খায়বারের যুদ্ধের পর মসজিদ সম্প্রসারণ করা হয়। এটি প্রত্যেক দিকে বৃদ্ধি পায় এবং পশ্চিম দেয়ালের পাশে তিন সারি খুটি নির্মিত হয়। প্রথম রাশিদুন খলিফা আবু বকরের শাসনামলে মসজিদের আকার অপরিবর্তিত ছিল। দ্বিতীয় খলিফা উমর মসজিদের আশেপাশে মুহাম্মদ এর স্ত্রীদের বাড়িগুলো ছাড়া বাকিগুলো ভেঙে সম্প্রসারণের ব্যবস্থা করেন। নতুন অবস্থায় মসজিদের আকার দাঁড়ায় × । দেয়াল নির্মাণে মাটির ইট ব্যবহার করা হয়। মেঝেতে পাথর বিছানোর পাশাপাশি ছাদের উচ্চতা বৃদ্ধি করে করা হয়। এছাড়াও উমর আরো তিনটি দরজা সংযুক্ত করেন।

তৃতীয় খলিফা উসমান নতুন করে মসজিদ নির্মাণ করেন। এই কাজে দশ মাস সময় লাগে। নতুন মসজিদের আকার দাঁড়ায় × । দরজার সংখ্যা ও নাম অপরিবর্তিত রাখা হয়। পাথরের দেয়াল নির্মিত হয় এবং খেজুর গাছের খুটির বদলে লোহা দ্বারা সংযুক্ত পাথরের খুটি যুক্ত করা হয়। ছাদ নির্মাণের জন্য সেগুন কাঠ ব্যবহার করা হয়।

ইতিহাস
মুহাম্মদ ও রাশিদুন খিলাফত
সৌদি যুগ
মিম্বর