KH Ali Mustafa juga makin intens dengan dunia pesantren. Tercatat, KH Ali Mustafa pernah menjadi Pengasuh Pesantren al-Hamidiyah Depok (1995-1997) dan Ketua Sekolah Tinggi Ilmu Dakwah (STIDA) al-Hamidiyah Jakarta (1991-1997). Selain itu, juga menjadi anggota Komisi Fatwa MUI sejak 1987.
Sebagai seorang akademisi sekaligus muhaddis, salah satu yang menjadi perhatian utama KH Ali Mustafa adalah memberantas penyebaran hadis-hadis palsu yang banyak didakwahkan di berbagai forum-forum pengajian di Tanah Air. Itulah kenapa KH Ali Mustafa kemudian mendirikan pesantren dengan kekhususan mengaji hadis dan ilmu hadis, yaitu Pesantren Darus Sunnah yang kita kenal sekarang.

Sebagai pesantren hadis, kitab-kitab yang diajarkan dan dikaji adalah kitab hadis dan ilmu hadis. Kitab hadis yang diajarkan meliputi kitab hadis yang enam (Al-Kutub As-Sittah), sedangkan untuk ilmu hadis meliputi mustalah hadis, takhrij hadis, dan metode memahami hadis antara lain kitab Tadrīb al-Rāwī karya al-Suyūṭī, Taisīr Muṣṭalaḥ al-Ḥadītsdan Uṣūl al-Takhrīj wa Dirāsat al-Asānīd karya Maḥmūd al-Ṭaḥḥān, Takwīl Mukhtalaf al-Ḥadīth karya Ibn al-Qutaibah, dan lain-lain.
Berbeda dengan pondok pesantren pada umumnya yang jumlah santrinya bisa mencapai ribuan bahkan belasan ribu, jumlah mahasantri di Pesantren Darus Sunnah memang sangat dibatasi. Tiap tahun, misalnya, Pesantren Darus Sunnah hanya menerima sekitar 20 santri putri dan 30 santri putra dengan tes seleksi masuk yang sangat ketat. Dengan demikian, proses pembelajaran bisa berjalan optimal.
