Untuk memenuhi kebutuhan santri yang menetap itulah akhirnya pada pada 24 Nopember 1925 dibangun pondok. Saat mulai banyak santri menetap, sebutan “Langgar Duwur” itu berganti menjadi Pondok Pesantren Kesugihan, mengambil nama desanya.
Saat pondok mulai berkembang dan ramai, Kiai Badawi wafat. Kepemimpinan pondok dilanjutkan oleh kedua putranya, KH Ahmad Mustholih dan KH Chasbulloh Badawi. Pada 1961, dilakukan perubahan. Nama Pondok Pesantren Kesugihan berganti menjadi Pendidikan dan Pengajaran Agama Islam (PPAI). Namun, pada 1983, kembali berubah namanya menjadi Pondok Pesantren al Ihya Ulumaddin. Nama yang dipakai hingga kini. Perubahan nama dilakukan untuk mengenang jasa Kiai Badawi yang dikenal sangat mengagumi pemikiran al Ghazali, pengarang kitab Ihya Ulumuddin.
Setelah Kiai Mustholih Badawi wafat pada tahun 1998, kepemimpinan pesantren diteruskan oleh adiknya, KH Chasbullah Badawi dan putranya, KH Imdadurrohmahman Al Ubudi. Kepemimpinan pesantren secara kolektif kolegial dari keluarga besar Kiai Badawi. Sejak periode inilah, Pondok pesantren al Ihya Ulumaddin mengalami perkembangan sangat pesat. Pada periode ini pula lahir lembaga-lembaga pendidikan formal, mulai dari TK hingga madrasah aliyah. Dan, setelah KH Mustholih Badawi wafat pada 1999, kepemimpinan pondok pesantren dipegang adiknya, KH Chasbulloh Badawi, hingga sekarang.
Kini, Pondok Pesantren al Ihya Ulumaddin telah dihuni ribuan santri. Mereka tak hanya berasal dari daerah-daerah di Pulau Jawa. Banyak santri berasal dari luar Jawa, seperti daerah-daerah dari Pulau Sumatera atau Kalimantan. Di pondok yang kini berdiri di atas lahan seluas sekitar 5 hektare ini, telah berdiri lembaga pendidikan formal berbasis agama, mulai dari TK hingga aliyah. Ada juga sekolah umum seperti SMP dan SMU. Bahkan, sejak 1988 telah didirikan perguruan tinggi, yaitu Institut Agama Islam Imam Ghozali.