Mbah Moen nyantri di Lirboyo hingga 1949, saat usianya mencapai 21 tahun. Sempat pulang ke kampung halaman sebentar guna mengamalkan ilmunya, pada 1950 Mbah Moen berangkat ke Mekkah untuk memperdalam studi keislaman. Berada di Tanah Suci selama dua tahun, Mbah Moen berguru kepada ulama-ulama besar, seperti Sayyid Alawi al-Maliki, Syekh al-lmam Hasan al-Masysyath, Sayyid Amin al-Quthbi, Syekh Yasin Isa al-Fadani, Syekh Abdul Qodir al-Mandaly.
Menimba ilmu di Tanah Suci tak membuat Mbah Moen muda merasa puas. Sepulang dari Mekkah, ia justru memulai pengelanaannya sebagai santri. Ia berguru langsung kepada puluhan ulama besar di Pulau Jawa, seperti KH Baidlowi bin Abdul Aziz (Lasem), KH Ma’shum (Lasem) KH Ali Ma’shum (Krapyak, Jogjakarta), KH Bisri Mustofa (Rembang), KH Abdul Wahab Hasbullah, KH Mushlih (Mranggen, Semarang), KH Abbas Djamil Buntet, (Buntet, Cirebon), Sayikh Ihsan (Jampes, Kediri), KH Abul Fadhol (Senori), KH Wahib Wahab, KH Bisri Syansuri, Habib Abdul Qadir bin Ahmad Bilfaqih Al Alawy (Malang), Habib Ali bin Ahmad Alathos (Pekalongan), KH Tohir (Jakarta), KH Abdul Hamid (Pasuruan), Kyai Hudhori (Tegalrejo), KHR Asnawi (Kudus), Kyai Abul Khoir (Senori), Syekh Dr Dhiya’uddin bin Najmuddin bin Syekh Alquthub Muhammad Amin Al Kurdi Al Mishri, dan Mursyid Thoriqoh Kyai Imron Rosyadi.
Begitulah santri yang sesungguhnya. Tidak pernah cukup berguru pada hanya satu guru. Tidak pernah puas apalagi jumawa hanya dengan satu ilmu yang telah ditemu.
Dengan geneologi keilmuan seperti itu, Mbah Moen akhirnya dikenal sebagai ulama besar yang menguasai samudera keilmuan Islam demikian luas. Kiprah dan pemikiran penulis kitab al-Ulama al-Mujaddidun ini pun menjadi rujukan orang-orang yang ingin mendalami Islam, tak hanya di Indonesia, tapi juga dari negara-negara lain.