Nabi Muhammad saw secara resmi membentuk dan menjalankan pemerintahan setelah hijrah ke Yatsrib (Madinah). Masyarakat Madinah yang berkarakter majemuk menerima kedatangan Rasulullah dan para sahabat dengan baik. Namun, selama berabad-abad, mereka terjebak dalam konflik yang sulit diselesaikan, terutama antara dua suku besar, Aus dan Khazraj.
Harapan akan perdamaian di Madinah tertumpu pada sosok Nabi Muhammad yang dikenal sebagai pemimpin bijaksana dan berakhlak mulia. Selain menghadapi konflik antar suku, Nabi Muhammad juga harus menyatukan masyarakat yang beragam melalui kesepakatan bersama.
Nabi Muhammad memulai kepemimpinannya dengan menyatukan kaum Anshar dan Muhajirin. Beliau menegakkan ukhuwah Islamiyah, yaitu persaudaraan di antara umat Islam, mencakup kaum Muhajirin dari Makkah, kaum Anshar sebagai pribumi Madinah, serta berbagai bangsa lainnya seperti bangsa Persia dan Romawi. Tali persaudaraan ini dibangun dengan penuh kasih sayang.
Selain membina ukhuwah Islamiyah, Nabi Muhammad juga membangun ukhuwah wathaniyah. Ini bertujuan untuk mendorong seluruh penduduk Madinah, terlepas dari suku atau agama, untuk menjaga keamanan kota. Mereka didorong untuk bersatu dalam mempertahankan Madinah dari serangan luar.
Nabi Muhammad juga mengembangkan ukhuwah insaniyah, yaitu persaudaraan antarumat manusia. Dalam mengatur kehidupan di Madinah yang terdiri dari berbagai suku, ras, dan agama, beliau membuat perjanjian yang dikenal sebagai Konstitusi Madinah atau Piagam Nabi Muhammad. Dokumen ini menjadi salah satu konstitusi tertulis tertua dalam sejarah.
Masyarakat Madinah pada saat itu terdiri dari kaum Muslimin, yang merupakan gabungan antara kaum Muhajirin dan Anshar, serta masyarakat Yahudi dari berbagai suku, kaum Nasrani, dan penduduk Madinah yang masih musyrik.
Konstitusi Madinah terdiri dari sepuluh bab dengan 47 pasal yang mengatur banyak hal, termasuk persaudaraan seagama, persaudaraan antarumat manusia, pertahanan bersama, perlindungan terhadap minoritas, dan pembentukan umat. Beberapa fasal penting di antaranya menyatakan bahwa semua orang yang beriman harus melawan segala bentuk kezaliman dan permusuhan di antara mereka.
Ada beberapa alasan ilmiah dan alamiah dalam penyusunan Piagam Madinah. Pertama, ada faktor universal yang mengedepankan kemuliaan kemanusiaan (karomah insaniyyah). Kedua, faktor lokal yang mencerminkan kemajemukan, kecenderungan bertanah air, serta semangat toleransi antaragama dan kemanusiaan.
Piagam Madinah merupakan perjanjian negara pertama dalam sejarah Islam yang didirikan oleh Nabi Muhammad. Dengan kata lain, Nabi SAW mendirikan Darul Mitsaq sebagai negara kesepakatan antara kelompok-kelompok masyarakat yang berbeda.
Sistem pemerintahan yang didasarkan pada jejak kenabian mengedepankan kebersamaan dan keadilan untuk semua bangsa dalam perjanjian dan kesepakatan yang tertuang dalam 47 pasal Piagam Madinah. Ini bertujuan untuk mewujudkan keadilan dan kesejahteraan bersama.
Mitsaq al-Madinah menjadi bukti otentik dalam sejarah peradaban Islam bahwa negara pertama yang didirikan Nabi Muhammad SAW adalah negara Madinah, sebagai negara kesepakatan atau perjanjian (Darul Mitsaq).