Nabi Muhammad SAW secara resmi membentuk dan menjalankan pemerintahan setelah hijrah ke Yatsrib, yang kini dikenal sebagai Madinah. Masyarakat Madinah yang berkarakter majemuk menyambut kedatangan Rasulullah dan para sahabat dengan baik. Namun, selama berabad-abad, mereka mengalami konflik yang sulit diselesaikan, terutama antara dua suku besar, Aus dan Khazraj.
Harapan akan perdamaian di Madinah tertumpu pada sosok Nabi Muhammad, yang dikenal sebagai pemimpin besar dengan integritas dan akhlak yang baik. Selain menghadapi konflik antar suku, Nabi Muhammad juga berhadapan dengan tantangan untuk menyatukan masyarakat yang beragam melalui kesepakatan bersama.
Langkah pertama yang diambil Nabi Muhammad adalah menyatukan kaum Anshar dan Muhajirin. Ia menegakkan ukhuwah Islamiyah, yaitu persaudaraan antara umat Islam, yang mencakup kaum Muhajirin dari Makkah, kaum Anshar sebagai penduduk asli Madinah, serta berbagai bangsa lain seperti orang Persia dan orang Rum atau Bizantium. Persaudaraan ini diperkuat dengan kasih sayang di antara mereka.
Di samping membina ukhuwah Islamiyah, Nabi Muhammad juga mengembangkan ukhuwah wathaniyah, yang mendorong penduduk Madinah dari berbagai suku dan agama untuk bersama-sama menjaga keamanan kota. Mereka diarahkan untuk bersatu dalam mempertahankan Madinah dari ancaman luar.
Selanjutnya, Nabi Muhammad membina persaudaraan sesama umat manusia atau ukhuwah insaniyah. Dalam mengatur kehidupan di Madinah, yang penduduknya terdiri dari berbagai suku, ras, dan agama, Nabi Muhammad menyusun perjanjian yang dikenal sebagai Konstitusi Madinah atau Piagam Nabi Muhammad.
Masyarakat Madinah terdiri dari kaum Muslimin, termasuk Muhajirin dan Anshar, serta masyarakat Yahudi dan Nasrani, dan orang-orang musyrik. Konstitusi ini merupakan konstitusi tertulis tertua yang terdiri dari sepuluh bab dan 47 pasal. Di antara pasal-pasal tersebut terdapat pengaturan mengenai persaudaraan seagama, persaudaraan sesama umat manusia, pertahanan bersama, perlindungan terhadap minoritas, serta pembentukan umat.
Sebagai contoh, Pasal 1 menyatakan bahwa pembentukan umat adalah satu bangsa yang bebas dari pengaruh luar. Dalam pasal-pasal yang mengatur hak asasi, dinyatakan bahwa hak dan kewajiban kaum Muhajirin, Anshar, dan suku-suku lain seperti Suku Auf, Bani Saidah, Bani al-Harits, dan Bani Najar adalah setara.
Pasal mengenai persatuan seagama mengharuskan seluruh orang beriman untuk menentang segala bentuk kezaliman dan pelanggaran ketertiban di kalangan masyarakat.
Penyusunan Piagam Madinah didasari oleh sejumlah alasan ilmiah dan alamiah. Pertama, faktor universal yang mengokohkan kemuliaan kemanusiaan. Kedua, faktor lokal berupa kemajemukan, kecenderungan bertanah air, serta semangat toleransi beragama dan kemanusiaan.
Piagam Madinah mencakup 47 pasal dan menjadi supremasi perjanjian negara pertama dalam sejarah Islam yang didirikan oleh Nabi Muhammad. Dengan demikian, Nabi Muhammad SAW mendirikan Darul Mitsaq, sebuah negara kesepakatan antara kelompok-kelompok masyarakat yang berbeda.
Sistem pemerintahan yang dijalankan berdasarkan prinsip kebersamaan dan keadilan bagi semua bangsa tercantum dalam 47 pasal Piagam Madinah untuk mewujudkan keadilan dan kesejahteraan bersama. Mitsaq al-Madinah menjadi bukti otentik dalam sejarah peradaban Islam bahwa negara pertama yang didirikan oleh Nabi Muhammad SAW adalah negara Madinah, sebuah negara kesepakatan atau perjanjian (Darul Mitsaq).