Nabi Muhammad memiliki keinginan untuk menemukan cara yang tepat untuk memberitahukan waktu shalat kepada umat Islam. Di masa awal perkembangan Islam di Madinah, para pengikutnya berkumpul di masjid untuk menunggu waktu shalat. Namun, tanpa adanya penanda waktu shalat, mereka langsung melaksanakan ibadah tersebut seakan-akan sudah saling mengetahui.
Seiring dengan bertambahnya jumlah umat Islam, banyak sahabat yang tinggal jauh dari masjid dan memiliki kesibukan sehingga tidak bisa menunggu dengan sabar. Melihat kondisi ini, beberapa sahabat mengusulkan kepada Nabi Muhammad untuk membuat tanda masuknya waktu shalat agar mereka yang jauh atau sibuk tetap dapat beribadah dengan tepat.
Usulan yang diajukan beragam, mulai dari penggunaan lonceng seperti yang dilakukan oleh orang Nasrani, terompet seperti orang Yahudi, hingga menyalakan api di tempat tinggi agar dapat dilihat oleh umat Islam yang tinggal jauh. Namun, semua usulan tersebut ditolak.
Ketika situasi tampak buntu, Abdullah bin Zaid, seorang sahabat Nabi, menghadap beliau dan menceritakan mimpinya tentang adzan. Dalam mimpinya, ia melihat seorang lelaki berjubah hijau yang membawa lonceng. Abdullah berniat untuk membeli lonceng tersebut, namun lelaki itu menyarankan agar ia mengucapkan serangkaian kalimat sebagai tanda masuknya waktu shalat. Kalimat-kalimat tersebut adalah: Allahu Akbar Allahu Akbar, Asyhadu alla ilaha illallah, Asyhadu anna Muhammadar Rasulullah, Hayya ‘alash sholah hayya ‘alash sholah, Hayya ‘alal falah hayya ‘alal falah, Allahu Akbar Allahu Akbar, dan La ilaha illallah.
Nabi Muhammad kemudian meminta Abdullah untuk mengajarkan kalimat adzan tersebut kepada Bilal bin Rabah. Ketika Bilal mengumandangkan adzan, Umar bin Khattab yang berada di rumah mendengar suara tersebut dan segera menghadap Nabi Muhammad untuk memberitahukan bahwa ia juga bermimpi tentang hal yang sama. Dalam beberapa riwayat, Nabi Muhammad juga mendapatkan wahyu mengenai adzan, sehingga beliau membenarkan apa yang disampaikan Abdullah.
Sejak saat itu, adzan resmi menjadi penanda waktu shalat. Menurut pendapat yang lebih sahih, adzan pertama kali disyariatkan di Kota Madinah pada tahun pertama Hijriyah. Bilal bin Rabah menjadi muadzin pertama dalam Islam. Ia dipilih oleh Nabi karena suaranya yang lantang dan merdu, kemampuannya menghayati kalimat adzan, disiplin tinggi, dan keberaniannya.
Bilal terus mengumandangkan adzan hingga wafatnya Nabi Muhammad. Setelah itu, ia tidak mau menjadi muadzin lagi karena merasa tidak dapat melanjutkan ketika sampai pada kalimat ‘Asyhadu anna Muhammadar Rasulullah’ karena air matanya akan bercucuran. Namun, saat Khalifah Umar bin Khattab berada di Yerusalem, Bilal diminta untuk mengumandangkan adzan sekali lagi dan ia menyanggupi permintaan tersebut.
Menurut Syekh Abdullah As-Syarqawi, Nabi Muhammad pernah mengumandangkan adzan sekali dalam perjalanan. Ketika sampai pada syahadat kedua, Nabi mengucapkan ‘Asyhadu anna Muhammadar Rasulullah’. Dalam riwayat lain disebutkan bahwa beliau mengucapkan ‘Asyhadu anni Rasulullah’.