Dilahirkan pada tanggl 21 Maret 1910 di desa Gontor Ponorogo Jawa Timur. Ia mengenyam pendidikan pesantren tradisional dan juga pendidikan madrasah, dua sistim pendidikan yang kemudian diintegasikannya. Setamat dari Jamsaren dan sekolah Madrasah Adabiyah dibawah asuhan Ustadh al-Hasyimi di Solo, ia berguru kepada para tamatan Darul Ulum Mesir di Normal Islam dan Sumatera Thawalib di Padang. Diantara gurunya adalah Dr.Mahmud Yunus.
Imam Zarkasyi bersama kedua kakaknya KH. Ahmad Sahal dan KH.Zainuddin Fannani merintis sebuah Pesantren yang telah mereka idamkan sejak mereka remaja. Dalam diri ketiganya mengalir darah keluarga Tegalsari, pesantren yang kesohor di abad ke 18 itu. Didalam diri ketiganya pula mengalir obsesi untuk membangkitkan kembali kejayaan para pendahulu mereka.
Bermula dari kesulitan kongres umat Islam tahun 1926 untuk menemukan utusan ke Timur Tengah yang mahir bahasa Arab dan Inggeris para pendiri Gontor itu terobsesi untuk mencetak ulama yang pandai bahasa Arab dan Inggeris. Tapi itu bukan satu-satunya factor. Dunia pesantren yang selalu dilecehkan orientalis karena kumuh, berfikiran picik, ekslusif dan mundur dalam bidang pengetahuan juga menjadi pemicunya.
Harus ada pesantren yang tidak kumuh, berfikiran luas, terbuka dan berfikiran progressif. Para santrinya tidak hanya dibekali pengetahuan dasar tentang Islam (ulum al-syariyyah), tapi juga diajari ilmu pengetahuan “umum” (ulum naqliyyah atau ulum kauniyyah). Ketika Pesantren dengan kreteria seperti itu benar-benar berdiri tahun 1936, masyarakat lalu menyebutnya Pondok Modern. Nama yang melekat dengan nama aslinya Darussalam.
Dari inspirasi dan gagasan itu otomatis ide tentang integrasi ilmu pengetahuan sudah termasuk. Maka ketika kunjungannya ke Gontor Presiden Soeharto bertanya kepada KH. Imam Zarkasyi berapa persen pelajaran agama dan umum disini. Ia menjawab secara tegas: “!00% agama dan 100% umum”. Maksud sebenarnya tidak ada prosentasi agama dan umum dalam Islam. Semua ilmu adalah untuk ibadah.
Wajah pendidikan Islam pada waktu itu memang dikotomis. Disatu sisi sistim pendidikan penjajah sama sekali tidak mengajarkan ilmu agama. Disisi lain sistim pendidikan pesantren mengharamkan ilmu pengetahuan “umum”. Untuk itu, sistim pesantren tradisional digabung sistim madrasah. Sistim pesantren efektif untuk membentuk mental dan moralitas santri dengan nilai-nilai agama. Sedangkan sistim madrasah efektif untuk pembelajaran. Sistim klasikalnya dengan jenjang-jenjang kelas serta tahun kelulusan menawarkan efisiensi waktu. Ini berbeda dengan pesantren tradisional yang berprinsip belajar seumur hidup. Sistim belajar seperti ini, maksudnya sistim madrasah dalam pesantren, menurut Prof.Dr. Mukti Ali suatu ketika adalah sistim belajar paling efektif.
Integrasi hanyalah sarana namun obsesi KH.Imam Zarkasyi lebh jauh. Ia ternyata terinspirasi oleh gagasan Islamic revival-nya Jamaluddin al-Afghani di Mesir dan Sir Syed Ahmad Khan di India, meski berbeda cara. Dia tidak percaya bahwa politik adalah solusi utama. Yang ia yakini justru pendidikan. “Politik saya adalah politik pendidikan”, katanya suatu ketika. Maka dari itu ia tidak mengarahkan santrinya untuk menjadi pengusaha, pegawai, pejabat, dan bahkan kyai. Ia mengarahkan santrinya untuk menjadi manusia seutuhnya.
Kini sistim pendidikan pesantren yang integral antara madrasah dan pesantren tradisional itu masih terus bertahan hingga kini. Alumninya banyak yang membawa pulang sistim itu keseluruh penjuru Indonesia. Dan kini pesantren alumninya itu telah menghasilkan alumni-alumni pula. Dengan sistim integral tersebut alumninya banyak menonjol dibidang masing-masing. (***)
