Pada permulaan abad ke-2 Hingga pertengahan abad ke-4 H, lahirnya berbagai tokoh imam mazhab yang memiliki pemikiran cemerlang, terutama dalam ilmu fiqih. Masa ini juga dikenal sebagai periode munculnya mazhab setelah generasi tabi’in. Mazhab-mazhab fiqih ini muncul sebagai respons terhadap perubahan zaman setelah Rasulullah wafat, di mana umat Islam perlu menetapkan sikap agama terkait hal-hal yang sebelumnya belum dijelaskan. Para mujtahid ini secara mendalam menggali hukum-hukum agama dengan pengetahuan yang luas.
Hasil ijtihad dari para ulama brilian pada masa tersebut mudah dipahami oleh orang-orang di sekitarnya, yang membuat pendapat mereka dikenal dengan istilah mazhab. Awalnya, mazhab tidak merujuk kepada nama tokoh, melainkan lebih cenderung kepada wilayah geografis. Contohnya, ada mazhab Makkah, Madinah, Syam, dan lainnya.
Setelah muncul mazhab berbasis wilayah, kemudian berkembang mazhab yang dinisbatkan langsung kepada tokoh mujtahidnya. Empat nama mazhab fiqih yang paling dikenal hingga saat ini adalah Hanafi, Maliki, Syafi’i, dan Hanbali. Namun demikian, sebenarnya ada lebih dari 13 individu yang memiliki kapabilitas sebagai mujtahid mutlaq.
Sayangnya, pandangan-pandangan brilian dari ulama mujtahid di luar keempat imam mazhab tersebut tidak sepenuhnya terdokumentasikan karena ketiadaan kelanjutan metodologi pemikiran mereka. Akhirnya, hanya empat mazhab yang pemikirannya tercatat dan diikuti oleh banyak orang hingga saat ini. Keempat mazhab tersebut adalah mazhab Abu Hanifah, Malik bin Anas, Muhammad bin Idris as-Syafii, dan Ahmad bin Hanbal.
Menurut konsensus ulama, mengikuti salah satu dari empat imam mazhab tersebut dianggap sebagai kewajiban bagi semua umat Islam. Tidak diperbolehkan untuk mengikuti mazhab selain dari keempat imam tersebut, bahkan untuk keperluan pribadi sekalipun. Hal ini dikarenakan ragu terhadap keabsahan jalur sanad yang dapat menyebabkan distorsi.
Banyak ulama, seperti Syekh Zainudin al-Malyabari, menegaskan pentingnya mengikuti salah satu dari empat mazhab tersebut. Namun, menetap pada satu mazhab secara terus-menerus tidak diwajibkan. Berganti-ganti mazhab diperbolehkan asalkan tidak dilakukan semata-mata untuk mencari kemudahan semata. Pindah mazhab harus dilakukan tanpa melakukan talfiq.
Keharusan bermazhab sangat ditekankan oleh para ulama untuk menjaga kekonsistenan dalam beragama. Namun demikian, tidak ada larangan untuk memilih mazhab yang sesuai dengan kondisi dan pemahaman individu. Kebebasan memilih mazhab juga dipandang sebagai bentuk penghindaran dari pemikiran yang kaku karena teks syariat seringkali memiliki makna yang sangat beragam.
Dalam dunia ijtihad, jika seseorang benar dalam pilihannya, maka dia akan mendapatkan pahala ganda. Namun, jika ternyata salah, dia tetap akan mendapatkan pahala karena telah berusaha. Kesimpulannya, dalam memilih mazhab dan melakukan ijtihad, penting untuk memperhatikan nash syariat dan menghindari fanatisme dalam pemilihan mazhab.