Berawal dari pengajian keliling, Pondok Pesantren Asrarur Rafiah berkembang menjadi pesantren putri yang cukup disegani di Cirebon, Jawa Barat. Asrarur Rafiah kemudian dikenal sebagai pondok yang banyak menelurkan santri putri yang menguasai kitab kuning.
Semua bermula dari kegigihan Nyai Khomisah yang memelopori pengajian keliling untuk kaum hawa. Pada awal 1960-an, Nyai yang berasal dari Linggapura, Tegal, itu rajin keliling blusukan ke desa-desa di daerah Cirebon untuk menggelar pengajian. Materi pengajiannya adalah Aqoid 50, yang memuat mengenai pokok-pokok agama.
Suatu hari, sampailah pengajian Nyai Khomisah ini di Desa Babakan, Kecamatan Ciwaringin, Cirebon. Di Desa Babakan ini, salah satu orang yang mengukuti pengajiannya adalah Nyai Rofi’ah, istri dari Kiai Asrar. Setelah itu, secara khusus Nyai Rofi’ah berguru kepada Nyai Khomisah perihal Aqoid 50 ini.
Setelah menguasai ilmu Aqoid dari Nyai Khomisah, akhirnya Nyai Rofi’ah membuat pengajian sendiri, menularkan ilmunya kepada masyarakat sekitar Babakan, khususnya untuk kaum perempuan. Rupanya, pengajian yang diadakan Nyai Rofi’ah menarik minat masyarakat setempat. Makin hari, orang-orang yang datang untuk ikut mengaji kian banyak. Perempuan tua dan muda. Tak hanya dari Desa Babakan, mereka datang dari desa-desa tetangga. Banyak di antara mereka ini yang malah tidur di rumah Nyai Rofi’ah, berjubel sampai ke dapur.
Saat itu, di Desa Babakan dan sekitarnya sebenarnya sudah banyak pesantren, baik besar maupun kecil. Namun, sejauh itu belum ada pesantren khusus untuk perempuan. Nah, melihat animo masyarakat mengikuti pengajian Nyai Rofi’ah begitu tinggi, salah seorang kiai di Babakan, KH Muhtadi Syarif, punya ide membuat asrama bagi santriwati. Ide tersebut kemudian disampaikan kepada istrinya, Mimi atau Nyai Mahsunah. Kemudian, usulan disampaikan kepada Nyai Rafi’ah sendiri dan suaminya, Kiai Asrar.
Gayung bersambut. Mereka bersepakat membangun asrama untuk santri putri. Dengan bergotong royong bersama masyarakat, termasuk santri Nyai Rafi’ah yang sudah senior, pembangunan asrama atau pondokan untuk santri putri akhirnya terwujud pada 1965. Dengan demikian, pondok ini sekaligus didirikan dua orang kiai beserta dua orang nyai, yaitu Kiai Asrar bin Kyai Shaleh bersama dengan KH Muhtadi Syarif bersama istri masing-masing.
Pada awal pendiriannya, pondok ini bernama Pesantren Lillah dan Mess Pelajar Putri (MPP). Sekaligus, ini menjadi pesantren putri pertama di Desa Babakan, Kecamatan Ciwaringin, Cirebon. Mendapat sentuhan tangan dua orang kiai, Pesantren Lillah dan MPP mengalami perkembangan menggembirakan. Saat itu, Kiai Asrar yang bukan lain adalah murid dari almaghfurlah KH Sanusi mengamalkan ilmunya di pesantren tersebut. Adapun, KH Muhtadi Syarif turut membantu dari sisi pengajaran dan juga sebagai seorang pedagang dan petani yang ulet. KH Muhtadi tak lain merupakan alumni Pondok Lirboyo, murid dari almaghfurlah KH A Idris Marzuki.
Seperti pesantren salaf pada umumnya, Pesantren Lillah dan MPP menerapkan pengajaran kitab kuning dengan metode sorogan. Metode Sorogan yaitu metode di mana para santri mengaji kitab secara langsung dibimbing oleh gurunya. Gurunya membacakan kitab di hadapan santri, dan kemudian bacaan dan maknaan kitabnya diikuti oleh santri tadi.
Dalam perkembangannya, sekitar tahun 1992, Pesantren Lillah/Mess Pelajar Putri (MPP) berubah nama menjadi Pondok Pesantren Asrarur Rafiah. Pergantian nama ini sebagai penghormatan kepada pelopor dan pendirinya, Kiai Asrar dan Nyai Hj Rafi’ah. Setelah Kiai Asrar dan Nyai Hj Rafi’ah wafat, Kiai Muhtadi-lah yang kemudian meneruskan kepemimpinan Pondok Pesantren Asrarur Rafiah. Pesantren ini tak mengutamakan jumlah santri, melainkan menomorsatukan kualitas pembelajaran kitab kuning.
Setelah Kiai Muhtadi wafat, kepemimpinan diteruskan oleh istrinya, Mimi Hj Mahsunah hingga wafatnya pada 20 Maret 2013. Sebagai salah satu pelopor berdirinya Pondok Pesantren Asrarur Rafiah, Mimi Hj Mahsunah dikenal sebagai perempuan yang telaten dan sabar dalam mendidik santrinya. Ia dikenal sebagai sosok yang giat mengaji dan juga istiqomah mengajarkan ilmu kepada para santrinya. Ia juga tergolong salah satu Nyai pesantren di Babakan yang bisa membaca kitab kuning dengan baik. Kini, kepemimpinan Pondok Pesantren Asrarur Rafiah diteruskan oleh keturunannya.