Menjelang akhir hayatnya, Amirul Mukminin Umar bin Khattab membentuk Majelis Syura untuk menentukan penggantinya sebagai Khalifah ketiga. Ada enam orang yang duduk dalam Majelis Syura tersebut, yaitu Utsman bin Affan, Ali bin Abi Thalib, Zubair bin Awwam, Talhah bin Ubaidillah, Abdurrahman bin Auf, dan Sa’ad bin Abi Waqqas. Penunjukan ini tidak dilakukan tanpa alasan, karena Umar melihat kedudukan dan hubungan mereka dengan Nabi Muhammad saw.
Setelah musyawarah yang sengit dan panjang, Majelis Syura akhirnya menetapkan Sayyidina Utsman bin Affan sebagai Khalifah ketiga, menggantikan posisi Sayyidina Umar bin Khattab. Keputusan ini membuat Ali bin Abi Thalib kembali harus menelan pil pahit. Sebelumnya, ia juga mengalami hal serupa ketika Sayyidina Abu Bakar dan Sayyidina Umar diangkat sebagai khalifah. Sejak wafatnya Nabi Muhammad saw., Ali dianggap sebagai calon yang layak untuk menggantikan posisi tersebut karena kedudukan dan hubungannya dengan Nabi. Ali merupakan sepupu dan menantu Nabi serta salah satu orang pertama yang masuk Islam. Ia dikenal cerdas dan berbudi luhur, namun baru bisa menjadi Khalifah keempat setelah Utsman.
Terdapat dua riwayat mengenai reaksi Sayyidina Ali ketika Majelis Syura menetapkan Utsman sebagai Khalifah. Riwayat pertama menyatakan bahwa semua pihak, termasuk Ali, menerima keputusan tersebut. Menurut riwayat Ibnu Sa’ad, Ali adalah orang pertama yang membaiat Utsman. Namun, ada pendapat lain yang menyebutkan bahwa Abdurrahman bin Auf lah yang pertama membaiat, diikuti oleh Ali.
Riwayat kedua menunjukkan ketidakpuasan Ali bin Abi Thalib dan Bani Hasyim terhadap hasil keputusan tersebut. Abdurrahman bin Auf sebagai ketua Dewan Syura dituduh melakukan nepotisme dengan lebih memilih Utsman dari Bani Umayyah dibandingkan Ali dari Bani Hasyim. Meskipun terdapat perbedaan pendapat ini, sikap Sayyidina Ali terhadap pembaiatan Utsman terbilang biasa saja. Ia tetap ikut membaiat Utsman dan merujuk buku tentang Ali bin Abi Thalib, hubungan baik antara keduanya tetap terjaga setelah peristiwa tersebut.
Sayyidina Ali juga mendukung pemerintahan Khalifah Utsman meskipun tidak menjabat sebagai Khalifah. Ia ditunjuk sebagai penasihat resmi Utsman dengan tugas memberikan saran dan masukan. Hal ini juga ia lakukan untuk dua Khalifah sebelumnya.
