Hal ini mengamini fakta sejarah bahwa pada tahun 1291 H, Syekh Abdullah bin Abdul Manan selaku orangtua dari Syekh Mahfudz At-Tarmasi mengajaknya ke Mekkah dan mengajarinya beberapa kitab, lalu kembali lagi ke Jawa. Di Jawa, Syekh At-Tarmasi pergi ke Semarang dan belajar kepada Syekh Sholeh Darat.
Kemudian, Syekh At-Tarmasi kembali lagi ke Mekkah dan belajar kepada para ulama ternama, seperti Sayyid Bakar Syatha. Menerima periwayatan hadis dari Sayyid Husain Al-Habsyi, Syekh Muhammad Said Bafadhal hingga menjadi ahli dalam hadis, ilmu hadis, pakar fikih, ushul fikih, dan ilmu qiraat. Sampai-sampai gurunya, Syekh Sayyid Bakar Syatha, memberikan wewenang untuk mengajar di Masjidil Haram di pintu Shafa.
Kepada ayahnya (Syekh Abdullah bin Abdul Manan), Syekh At-Tarmasi belajar kitab Syarh Al-Ghayah, Al-Minhaj Al-Qawim, Fath Al-Mu’in, Fath Al-Wahab, Syarh Asy-Syarqawi ‘ala Al-Hikam, dan Tafsir Al-Jalalain dari surah Al-Fatihah sampai surah Yunus.
Lalu, kepada Syekh Sholeh Darat Semarang, Syekh At-Tarmasi belajar kitab Syarh Al-Hikam, Tafsir Al-Jalalain, Syarh Al-Mardini dan kitab Wasilah Ath-Thullab fi ‘Ilm Al-Falak. Kemudian, di Mekkah Al-Mukarramah, Syekh At-Tarmasi belajar ilmu qiraat riwayat Imam Ashim dari Syekh Hasyim, sedangkan ilmu tajwidnya dari Syekh Ahmad Al-Minsyawi.
Syekh At-Tarmasi mendapat ijazah kitab Syarh Ibnu Al-Qashih ‘ala Asy-Syathibiyyah dan bertalaqqi kepada Syekh Umar bin Barakat Asy-Syami dalam kitab Syarh Syudzur Adz-Dzahab karya Ibnu Hisyam. Syekh At-Tarmasi juga berguru kepada Syekh Musthafa Al-Afifi dalam kitab Mughni Al-Labib dan Syarh Al-Jam’ Al-Jawami’. Kitab Shahih Al-Bukhari beliau mendapat ijazah dari Sayyid Muhammad Al-Habsyi. Sedangkan untuk kitab Sunan Abi Daud, Sunan Tirmidzi, dan Sunan Nasa’i Syekh At-Tarmasi mendapat bacaannya dari Syekh Muhammad Said Bafadhal.
Sementara, murid-murid Syekh Muhammad Mahfudz At-Tarmasi adalah Syekh Hasyim Asy’ari Jombang, Syekh Bisri Syansuri Denanyar, Syekh Abdul Muhith bin Ya’kub Sidoarjo, Syekh Raden Dahlan Semarang, Syekh Muhammad Dimyathi At-Tarmasi, Syekh Dalhar Watucongol, Syekh Muhammad Faqih bin Abdul Jabbar Maskumambang, Syekh Baidhawi bin Abdul Aziz Lasem, Syekh Abdul Muhaimin bin Abdul Aziz Lasem, Syekh Abbas Buntet Cirebon, Syekh Nawawi Pasuruan, dan Syekh Khalil Lasem.