Dalam sejarah Islam, terdapat peristiwa penting terkait pemugaran Ka’bah yang dilakukan oleh Kaum Quraisy beberapa tahun sebelum Nabi Muhammad diangkat menjadi nabi. Ketika itu, Ka’bah mengalami kerusakan akibat banjir bandang yang merobohkan sebagian dindingnya. Banjir tersebut terjadi akibat air dari gunung-gunung di sekitar Makkah.
Pada masa itu, Ka’bah yang tingginya sekitar sembilan hasta atau tujuh meter tidak memiliki atap, dan pintunya sejajar dengan tanah. Kondisi ini memudahkan pencuri untuk mengambil harta-harta persembahan yang diletakkan di dasar Ka’bah. Selain itu, ada juga cerita dari Ibnu Hisyam yang menyebutkan bahwa hilangnya seekor ular yang tinggal di bawah Ka’bah menjadi salah satu faktor pendorong Kaum Quraisy untuk merenovasi bangunan suci tersebut. Ular tersebut selalu membuka mulutnya setiap kali ada orang yang mendekat untuk meletakkan persembahan.
Suatu hari, ular tersebut diterkam oleh burung, dan Kaum Quraisy meyakini burung itu sebagai utusan Allah. Mereka berharap Allah meridhai niat untuk merenovasi Ka’bah. Dengan berbagai pertimbangan, mereka akhirnya sepakat untuk melakukan pemugaran meskipun sebelumnya merasa tidak berani karena kesakralan Ka’bah.
Terdapat kapal milik saudara Romawi yang membawa bahan bangunan terdampar di Jeddah, serta seorang Nasrani yang ahli dalam bidang pertukangan. Setelah semua persiapan selesai, Kaum Quraisy mulai memugar Ka’bah. Aiz bin Marwan bin Makhzum menjadi orang pertama yang memulai pekerjaan tersebut. Namun, ia mengalami kejadian aneh saat mencungkil batu Ka’bah; batu-batu yang telah diambil justru jatuh kembali ke tempatnya semula.
Aiz kemudian mengingatkan agar pemugaran tidak menggunakan sumber dana yang tidak baik, seperti hasil perzinaan, riba, atau penganiayaan. Kaum Quraisy pun mulai mengikuti arahan Aiz dan bersama-sama mencungkil batu-batu dari dinding Ka’bah. Pekerjaan ini melibatkan empat suku Quraisy, di mana masing-masing suku bertanggung jawab atas satu sisi Ka’bah.
Namun, saat mereka berusaha meruntuhkan bagian-bagian tertentu, mereka merasa takut akan bencana yang menimpa. Mereka menghentikan pekerjaan hingga al-Walid bin Mughirah meyakinkan mereka untuk melanjutkan dengan mengambil kapaknya dan mulai meruntuhkan Ka’bah dari dua tiang. Ia berdoa kepada Allah agar hanya kebaikan yang mereka inginkan.
Setelah menunggu sehari dan melihat al-Walid masih sehat, orang-orang Quraisy mengikuti langkahnya dan melanjutkan pekerjaan meruntuhkan bangunan Ka’bah. Mereka menggali hingga menemukan fondasi batu hijau yang diletakkan Nabi Ibrahim AS. Meski ingin menghancurkannya, mereka akhirnya membiarkannya dan menjadikannya sebagai fondasi baru Ka’bah.
Selama proses renovasi, mereka menemukan tulisan berbahasa Suryani di dua tiang Ka’bah yang diartikan oleh seorang Yahudi. Tulisan itu menyatakan bahwa Allah adalah pemilik Bakkah dan menciptakannya bersamaan dengan langit dan bumi.
Orang-orang Quraisy menggunakan batu granit berwarna biru dari pegunungan sekitar Makkah untuk membangun Ka’bah baru. Nabi Muhammad, yang saat itu berusia 35 tahun, turut serta dalam pemugaran tersebut. Ia mengangkut batu-batu dan mengalami insiden di mana pakaiannya tertarik saat mengangkat batu.
Ketika pembangunan sampai pada posisi Hajar Aswad, terjadi pertikaian di antara suku-suku Quraisy tentang siapa yang berhak meletakkan batu tersebut. Perselisihan ini berlangsung selama empat atau lima hari hingga akhirnya disepakati untuk mencari pemutus masalah. Nabi Muhammad menjadi orang pertama yang melewati pintu masjid dan dianggap sebagai sosok yang jujur dan dapat dipercaya.
Nabi Muhammad meminta selembar kain selendang untuk meletakkan Hajar Aswad dan meminta empat pemuka kabilah untuk memegang ujung kain tersebut, sehingga mereka dapat mengangkat batu itu secara bersama-sama. Saat batu tersebut meluncur ke arah Nabi Muhammad, beliau meletakkannya pada posisinya semula.
Meskipun pemugaran dilakukan dengan niat baik, dana yang tersedia tidak cukup untuk menyelesaikan semua pekerjaan. Akibatnya, mereka memutuskan untuk mengurangi panjang tembok sisi barat dan timur bagian utara sekitar tiga meter, yang kemudian dikenal sebagai Hijr Ismail. Setelah renovasi, bangunan Ka’bah memiliki ukuran dan bentuk sedikit berbeda dari sebelumnya; pintu ditinggikan menjadi dua meter dari lantai dan dibuat hanya satu pintu.
Di dalam Ka’bah ditambahkan enam tiang dalam dua deretan dan tangga menuju atap. Berbagai gambar dan berhala diletakkan kembali setelah renovasi selesai. Gambar-gambar tersebut meliputi Nabi Ibrahim AS dan Nabi Ismail AS serta berbagai dewa lainnya.
Ketika Islam datang, Nabi Muhammad memiliki pandangan berbeda tentang posisi Ka’bah dan ingin memperbaikinya sesuai dengan cara Nabi Ibrahim AS membangunnya. Namun, beliau memilih untuk menahan egonya demi kepentingan masyarakat luas dan tidak menghancurkan bangunan tersebut.
Dalam peristiwa Pembebasan Kota Makkah, Nabi Muhammad menghancurkan gambar-gambar dan berhala yang ada di dalam dan luar Ka’bah. Beliau merasa tidak dapat menerima lukisan Nabi Ibrahim AS dengan cara yang tidak pantas.
Setelah mengamati semua gambar di dalam Ka’bah, Nabi Muhammad memerintahkan para sahabatnya untuk menghapus semuanya sehingga tidak ada satu pun lukisan atau berhala yang tersisa.