Sejak 1995, Kiai Dim menjadi al Mursyid Toriqoh Qodiriyah Wa Naqsyabandiyah menggantikan kakanya, KH Rifai Romly. Selain menjadi al Mursyid, sejak 1985 sampai wafat Kiai Dim juga mendapat amanah di Majelis Pimpinan Pondok (MPP) Darul Ulum sebagai kordinator pendidikan,yang bertanggung jawab terhadap kualitas unit pendidikan yang ada di Pondok Pesantren Darul Ulum.
Selama hidupnya, Kiai Dim juga pernah menjabat sebagai Kepala Sekolah SMA DU 1, Kepala Sekolah PGAN, Kepala Perpustakaan UNDAR, Pembantu Rektor III, dan Dekan Fakultas Ushuluddin Universitas Darul Ulum (UNDAR). Selain itu, Kiai Dim juga pernah menjadi dosen di Fakultas Syariah UIN Sunan Ampel. Pernah juga berkarier di politik dan menjadi Anggota DPRD Jawa Timur pada periode 1997-1999 dan 1999-2004.

Penulis sempat merasakan kepemimpinan Kiai Dim selama tiga tahun sebelum beliau wafat. Bagi penulis, Kiai Dim adalah figur kiai yang cukup berbeda dengan yang lainya. Seringkali beliau hanya mengenakan baju koko, sarung, dan kopyah putih sebagai sebuah kesederhanaan yang diajarkan kepada kami. Penulis masih ingat, setiap diadakan pertandingan sepak bola ketika liga unit pesantren, Kiai Dim pasti selalu menyaksikan pertandingan tersebut hingga usai.
Suatu ketika, penulis memberanikan diri untuk sowan kepada beliau untuk meminta doa agar saya memperoleh kelancaran dalam ujian dan persiapan menghadapi jenjang selanjutnya. Saya sowan bersama salah atu teman sehabis ashar menjelang petang, waktu itu bertepatan ada tamu salah satu alumni yang juga sedang sowan kepada beliau. Kiai Dim memberikan wejangan bahwa sebanyak apa pun doa dan amalan yang diminta, kalau tidak dijalankan dengan istikamah, ya hanya menjadi koleksi saja. Nasihat itu sangat menampar hati penulis yang hingga saat ini masih belum istikamah dalam menjalankan nasihat tersebut.
Penulis juga banyak mendapatkan cerita dari putra beliau, Gus Azmi, yang menjadi pengasuh penulis di Asrama Alfurqon Darul Ulum. Pengasuh sering bercerita bahwa Kiai Dim adalah sosok yang sederhana dan tidak terlalu mempermasalahkan perkara duniawi. Suatu ketika putra bungsu beliau kehilangan sepeda motor yang belum lama baru dibelikan oleh Kiai Dim. Setelah berita itu disampaikan kepada beliau, ternyata respons beliau tidak sama dengan ekspektasi kita ketika kehilangan sesuatu yang berharga langsung sedih atau emosi. Beliau tetap tenang dan memasrahkan kepada Allah bahwa semua sudah ada tulisanya, “Kabeh wes ono tulisane.”
