Masjid Nabawi yang megah saat ini dulunya berdiri di atas tanah milik dua anak yatim, Sahal dan Suhail, ketika Nabi Muhammad dan para sahabatnya hijrah ke Yastrib (Madinah). Tanah yang dulunya digunakan untuk menjemur kurma tersebut kemudian dibeli oleh Nabi untuk membangun masjid raya.
Awalnya, Sahal dan Suhail menolak untuk menjual tanah tersebut, lebih memilih untuk mewakafkannya kepada Nabi. Namun, Nabi menolak tawaran tersebut demi menghormati hak mereka sebagai anak yatim dan membayar dengan harga yang layak. Di sinilah masjid besar yang kita kenal saat ini, Masjid Nabawi, didirikan dengan kubah hijau yang ikonik di kota Madinah.
Saat Rasulullah saw dan para sahabat memasuki Madinah, mereka disambut dengan antusiasme yang luar biasa. Setiap orang menawarkan tempat tinggal, tetapi Nabi tidak ingin mengecewakan satu pun dari mereka. Beliau memilih untuk tidak tinggal di rumah salah satu dari mereka, melainkan berkata, “Biarkan unta itu berjalan, di mana ia berhenti, di situlah kami tinggal.” Semua perhatian tertuju pada unta Nabi yang bernama Qushwa, yang akhirnya berhenti dan berlutut di tanah lapang tempat menjemur kurma. Masyarakat Madinah bersorak gembira, menyatakan bahwa di sinilah mereka akan membangun masjid Rasulullah saw.
Nabi turut serta dalam proses pembangunan masjid dengan membangun dinding dari lumpur di atas fondasi batu. Pelepah kurma digunakan untuk menutup sebagian atap. Pada awalnya, masjid ini memiliki tiga pintu dan menghadap ke Masjid Al-Aqsa sebelum akhirnya diubah menghadap Ka’bah di Mekkah. Di bagian belakang masjid terdapat area teduh untuk menampung orang miskin dan asing yang dikenal dengan nama “Al-Saffa”. Saat para sahabat meminta Nabi untuk memperkuat atap dengan lumpur, beliau menolak. Lantai masjid dibiarkan tanpa penutup hingga tiga tahun kemudian.
Luas awal masjid adalah 1.050 meter persegi sebelum diperluas menjadi 1.452 meter persegi atas perintah Nabi setelah beliau kembali dari Khaybar, tujuh tahun setelah Hijrah. Rumah Nabi terletak di samping masjid, di mana beliau wafat dan dimakamkan – di ruang Aisyah.
Setelah wafatnya Nabi Muhammad, para sahabat berdiskusi mengenai lokasi pemakaman beliau. Abu Bakar menyampaikan bahwa Nabi pernah bersabda bahwa para nabi dimakamkan di tempat di mana Allah mencabut nyawa mereka. Maka, Nabi dimakamkan di kamar yang menjadi ruang bagi istrinya, Aisyah. Ketika Abu Bakar sakit, ia meminta izin Aisyah untuk dimakamkan dekat makam Nabi Muhammad, dan Aisyah setuju. Umar bin Khattab, khalifah kedua, juga mengajukan permintaan serupa dan Aisyah kembali memberikan izin.
Perluasan masjid terjadi selama berabad-abad sehingga kamar, makam, dan bangunan di samping masjid kini menjadi bagian dari masjid itu sendiri. Kubah Hijau yang terkenal kini berada di dalam kamar tersebut.
Perluasan pertama dilakukan pada era khalifah Umar, yang membeli lahan di kawasan barat, selatan, dan utara masjid. Penerusnya, Usman, juga melakukan perluasan setelah berkonsultasi dengan para sahabat pada tahun 29 H atau sekitar tahun 650 M.
Perluasan terus berlanjut pada masa kekhalifahan Umayyah dan Abbasiyah yang membuat luas masjid mencapai 8.890 meter persegi dengan 60 jendela dan 24 pintu. Di era Usmani juga dilakukan renovasi dan perluasan yang menambah keindahan dan kapasitas Masjid Nabawi.