Mbah Dim merupakan anak ke lima dari sepuluh bersaudara. Mbah Dim menempuh pendidikan nonformalnya di Pondok Pesantren APIK Kaliwungu di bawah asuhan KH Ahmad Ru’yat. Beliau mondok di Ponpes APIK lebih kurang 15 tahunan. Selanjutnya Mbah Dim melanjutkan mondok di Pondok Pesantren Lirboyo Kediri, Jawa Timur, di bawah asuhan KH Mahrus Ali. Setelah merasa cukup belajar di Lirboyo, Mbah Dim melanjutkan mondok di Pondok Pesantren Sarang yang diasuh oleh Mbah Kiai Imam.
Dengan perjalanan mondok yang melanglang buana tersebut menjadikan pengetahuan agama Mbah Dim sangat mendalam. Sepulangnya dari mondok, Mbah Dim akhirnya memutuskan mendirikan pondok pada tanggal 10 Muharam tahun 1985. Mbah Dim memberi nama pondoknya Pesantren Al-Fadlu wal Fadilah di Kutoharjo, Kaliwungu, Kendal, Jawa Tengah.
Pada 1978 Mbah Dim melepas masa lanjangnya. Beliau menikah dengan Nyai Hj To’ah, putri tunggal dari KH Abdullah dan Nyai Hj Fatimah. Setelah menikah, Mbah Dim dikaruniai sepuluh orang anak, di antaranya yaitu Gus Fadlullah, Gus Alamaudin, Ning Laialatul Arofah, Gus Toha Mubarak, Gus Hilmi, Ning Lama’atus, Gus Qamaruzzaman, Gus Husni, Gus Iqbal, dan Gus Abu Khafsin.Mbah Dim mendidik putra-putrinya dengan dasar-dasar ilmu agama dan mengirim mereka belajar ke pondok lain dengan tujuan agar mereka nanti menajdi penerus Mbah Dim dalam mengelola Pondok.