Pondok Pesantren Al-Hikmah berdiri pada masa penjajahan Belanda. Para Pengasuh Al-Hikmah dianggap oleh Belanda, sebagai pengobar semangat perjuangan. Akibatnya, pada masa revolusi kemerdekaan 1945, Sembilan kamar santri dihancurkan dan dibakar tentara Belanda.
Cikal bakal berdirinya Pesantren sendiri, tak lepas dari upaya Mbah Cholil ( KH. Cholil bin Mahalli). Beliau mengimpin para santri dengan gerakan bawah tanah. Melalui pendekatan bilhikmati wal mau’idhotil hasanah (kebijaksanaan, nasihat baik dan keikhlasan berdakwah).
Mbah Cholil yang pernah nyantri di Pesantren Mangkang, Semarang, itu mengadakan pengajian dari pintu ke pintu rumah penduduk. Dari surau ke surau yang ada di desa tersebut. Pola ini dilakukannya selama 10 tahun.
Tahun 1922, KH. Suhaimi bin Abdul Ghani – anak dari kakak KH. Cholil – pulang dari Mekah. Disitu keduanya sepakat mengembangkan bangunan pesantren yang telah ada sejak tahun 1911. Maka pada tahun 1926 terwujudlah pondok khusus Takhfidz Qur’an.
Dan setelah itu berturut-turut mereka berhasil mendirikan Sembilan buah ruangan untuk asrama para santri. Sejak saat itu arah dan sistem pendidikan segera ditancapkan.
Ada dua program pendidikan yang dikembangkan. Pertama, menyelenggarakan pengajian kitab kuning, yang diasuh oleh KH. Cholil. Kedua, pengajian Tahfidzul Qur’an yang diasuh oleh KH. Suhaemi. Maka pada tahun 1929 didirikanlah madrasah ibtidaiyah diniyah, dan mendapat izin operasional dari pemerintahan Belanda pada tahun 1931.
Sumber : Direktori Pesantren Jilid 2
