Sejak belia, Mbah Manan nyantri di beberapa pondok pesantren di Jawa Timur. Saat berusia sekitar 12 tahun, misalnya, ia mondok di Pesantren Keling atau Pondok Pesantren Ringin Agung untuk beguru kepada Mbah KH Nawawi. Yang menarik, meskipun tergolong masih belia, Mbah Manan sudah mendapat didikan langsung dari Mbah Nawawi, yang biasanya hanya boleh diikuti orang dewasa. Maja, jadilah Mbah Manan sebagai santri istimewa.
Setelah memperoleh didikan dari Mbah Nawawi, selanjutnya Mbah Manan mondok di Pesantren Gerompol, pesantren yang diasuh oleh neneknya sendiri. Di Pondok Gerompol inilah Mbah Manan memperoleh banyak ilmu hikmah yang kemudian membuatnya dikenal sebagai santri jaduk, jago berkelahi melawan perampok atau orang-orang berandalan yang ketika itu memang di tengah masyarakat sekitar.
Lepas dari Pondok Gerompol, Mbah Manan kemudian menjadi santri kelana. Ia tercatat pernah mondok di Pondok Pesantren KH Abas di daerah Wlingi, Blitar. Tak lama, ia melanjutkan pengembaraannya ke Pondok Pesantren Siwalan Panji (Sidoarjo), Pondok Pesantren Gayam (Jombang), Pondok Pensatren Tegalsari (Ponorogo), dan terakhir berguru kepada KH Kholil Bangkalan, Madura. Setelah nyantri kepada Kiai Kholil, Mbah Manan memperdalam ilmu ke Mekkah kira-kira selama 9 tahun.
Dari Mekkah Mbah Manan kembali ke orang tuanya di Kediri, membantu mengajar santri-santri ayahnya sendiri. Ia kemudian menikah dan sempat membangun pondok kecil. Namun naluri kembaranya karena haus akan ilmu muncul lagi. Ia kemudian menceraikan istrinya, dan kemudian mondok di Pesantren Jalen, Genteng, Banyuwangi, tempat Kiai Kholil Bangkalan pernah nyantri. Di Jalen ia berguru langsung kepada KH Abdul Basyar.