Awalnya, di pesantren ini hanya diadakan pengajian selapanan dan juga pengajian keliling dari desa ke desa. Pada 10 Oktober 1982, secara resmi pondok ini diberi nama Pesantren Al-Mahalli. Alamat pesantren ini ada di Dusun Brajan, Wonokromo, Bantul.
Pada saat ini Pondok Pesantren Mahalli mengalami kemajuan yang peast bahkan memiliki lembaga formal seperti Madrasah Tsanawiyah, Madrasah ‘Aliyah, koprasi, LSM, lembaga penerbitan, dan lembaga dakwah. Bukan hanya itu, Kiai Mudjab juga berinisiatif mendirikan lembaga yang diberi nama Lajnah Ta’lif wan-Nasyr, yaitu sebuah lembaga yang bergerak di bidang penulisan dan penerbitan. Pendirian lembaga ini bukan tanpa sebab. Sebagai seorang kiai yang gemar menulis buku, Kiai Mudjab juga ingin para santrinya memiliki kemampuan menulis seperti dirinya.
Sudah sejak mudah Kiai Mudjab menggeluti bidang kepenulisaan. Pada 1980 Kiai Mudjab menerbitkan buku pertamanya yang berjudul Mutiara Hadis Qudsi. Ada satu nama yang tidak boleh dilupakan atas kesusksesan Kiai Mudjab menulis, yaitu Mahbub Djunaidi. Ceritanya, suatu hari Mahbub Djunaidi memberikan mesin ketik sebagai hadiah kepada Kiai Mudjab. Sejak itulah Kiai Mudjab semakin produktif menulis.
Kiai Mudjab menikah dengan Nyai Nadhiroh, putri Kiai Muslih Zuhdi Musthafa Rembang pada 23 Febuarai 1989. Dari pernikahannya ini Kiai Mudjab dikaruniahi empat orang empat orang putra yaitu, Ahmad Firdaus Al Halwani, Ahmad Muhammad Naufal, Muhammad Iqbal, dan Hadian Sofiyarrahman.
Sebagai hadiah kenangan pernikahannya, Kiai Mudjab menulis Tafsir al-Mahali. Kiai Mudjab wafat pada usia 45 tahun, tepatnya 23 November 2003 pada pukul 13.30. Kiai Mudjab wafat meninggalkan seorang istri dan empat orang putranya.