Nabi Muhammad melakukan tawaf di Ka’bah setelah Kota Makkah berhasil dibebaskan. Dalam tawaf tersebut, beliau menghancurkan patung-patung yang berada di sekitar Ka’bah menggunakan tongkat atau panah. Tercatat ada sekitar 360 berhala dan patung yang disembah oleh masyarakat saat itu. Dalam proses penghancuran tersebut, Nabi Muhammad menyerukan QS. al-Isra ayat 81 berulang kali, yang membawa kehancuran pada berhala-berhala tersebut. “Kebenaran telah datang dan kebatilan telah hancur. Sesungguhnya kebatilan akan musnah selamanya,” ucap Nabi, yang kemudian disambut oleh para sahabatnya.
Setelah tawaf selesai, Nabi Muhammad melaksanakan shalat di Maqam Ibrahim dan kemudian menuju sumur zam-zam untuk meneguk airnya. Pada saat itu, Utsman bin Thalhah adalah juru kunci Ka’bah yang memegang kunci tersebut. Nabi Muhammad memanggilnya untuk membuka Ka’bah, tetapi beliau tidak langsung masuk karena masih ada berhala dan gambar di dalamnya. Beliau kemudian memerintahkan para sahabat untuk mengeluarkan berhala dan menghapus gambar-gambar di dinding Ka’bah.
Nabi Muhammad baru masuk ke dalam Ka’bah bersama Usamah, Bilal, dan Utsman bin Thalhah setelah semua berhala dan gambar telah dihilangkan. Dalam satu riwayat, beliau shalat dua rakaat di dalam Ka’bah, sementara riwayat lain menyebutkan bahwa beliau tidak shalat. Setelah keluar dari Ka’bah, Sayyidina Ali bin Abi Thalib meminta kunci Ka’bah kepadanya. Namun, Abbas bin Abdul Muthalib juga meminta kunci tersebut saat Nabi Muhammad menerima kunci dari Sayyidina Ali di sumur zam-zam. Abbas berharap dapat menggabungkan tugas menjaga Ka’bah dengan tugasnya menyediakan air bagi pengunjung. Namun, Nabi Muhammad menolak permintaan itu dan mencari Utsman bin Thalhah untuk menyerahkan kunci Ka’bah sambil melantunkan Al-Qur’an Surat an-Nisa ayat 58: “Sesungguhnya Allah menyuruh kamu menunaikan amanat kepada yang berhak menerimanya.”
Ketika menyerahkan kunci kepada Utsman bin Thalhah, Nabi Muhammad berkata: “Ini kuncimu, wahai Utsman. Hari ini adalah hari kebajikan dan kesetiaan. Ambillah ini (wahai Utsman beserta keturunanmu) selama-lamanya sepanjang masa; tidak ada yang merebutnya dari kalian kecuali dzalim atau penganiaya.” Ini menunjukkan sikap tegas Nabi Muhammad dalam menentukan siapa yang berhak menjaga kunci Ka’bah, meskipun ada permintaan dari kerabat dekatnya.
Dalam buku “Mekkah: Kota Suci, Kekuasaan, dan Teladan Ibrahim”, dijelaskan bahwa Suku Quraisy membagi tiga jabatan untuk mengelola kota Makkah: al-Siqayah (menyiapkan air dan kebutuhan pokok), al-Rafadah (menyediakan akomodasi dan konsumsi), dan al-Sadanah (bertanggung jawab atas kunci Ka’bah). Qusai bin Kilab ditugaskan untuk jabatan ini dan menyerahkan kunci kepada anak pertamanya, Abdu al-Dar, yang kemudian diwariskan kepada keturunan berikutnya.
Pada zaman Rasulullah, Utsman bin Thalhah adalah orang yang bertugas merawat Ka’bah dan memegang kuncinya. Ia mewariskan kunci tersebut kepada saudaranya, Syaibah. Sampai hari ini, kunci Ka’bah dipegang oleh keturunan Bani Syaibah. Tanggung jawab mereka mencakup membuka dan menutup Ka’bah, serta membersihkan dan merawat Kiswah atau kelongsongnya.
Kunci Ka’bah sendiri telah mengalami beberapa perubahan. Terakhir kali diperbarui pada November 2013, kunci tersebut terbuat dari nikel dengan panjang 35 cm dan dilapisi emas 18 karat. Di Turki terdapat museum yang menyimpan 48 kunci Ka’bah dari era Kekaisaran Turki Usmani, sedangkan di Arab Saudi ada dua replika kunci yang terbuat dari emas murni.