Saat itu, sekitar 1902, KH Muhammad Rosyid dipercaya oleh pemerintah kolonial Belanda menjadi penghulu di wilayah Bojonegoro. Saat itu, kehidupan masyarakat Bojonegoro masih dikuasai klenik. Di sana ada sebuah pohon kendal besar dan tua yang dikeramatkan. Pohon kendal itu dijadikan tempat menghaturkan sesaji, tempat berdoa dan bermohon.
Sebagai ulama yang pernah belajar agama di Mesir, KH Muhammad Rosyid tak bisa menerima perilaku masyarakat semacam. Karena masyarakat susah diberi pemahaman yang benar, akhirnya pohon kendal itu ditebang dan kayunya oleh KH Muhammad Rosyid dimanfaatkan untuk membangun pondok. Setelah pondok berdiri, KH Muhammad Rosyid mulai mengajak masyarakat sekitar untuk belajar mengaji. Sejak itu, tempat mengaji ini disebut Pondok Kendal karena bangunannya terbuat dari pohon kendal, dan KH Muhammad Rosyid sering dipanggil dengan julukan Mbah Rosyid.
Sayangnya Pondok Kendal tak berjalan lama. Tujuh tahun kemudian, pada 1909, KH Muhammad Rosyid wafat. Pondok Kendal pun vakum dalam waktu yang panjang. Sebab, KH Muhammad Rosyid belum sempat menyiapkan penggantinya. Baru setengah abad kemudian, tepatnya pada 1959, Pondok Kendal dihidupkan kembali oleh keturunan Mbah Rosyid, KH Masyhur. Demi meneruskan perjuangan Mbah Rosyid dan mengenang jasanya, KH Masyhur mengubah nama Pondok Kendal menjadi Pondok Pesantren Al-Rosyid. Setelah KH Masyhur wafat pada 1 Agustus 1974, perjuangan dan estafet kepemimpinan diteruskan KH Muhammad Sajjidun Murtadlo (Alm), KH Alamul Huda Masyhur, dan KH Muhammad Shofiyullah Masyhur yang dibantu oleh Dewan Asatidz lainnya.
