Mbah Kandar bukan asli kelahiran Banyuwangi. Diperkirakan, ia lahir pada 1901 di Dusun Sragi, Desa Sumber Dukuh, Kecamatan Gampeng Rejo, Kabupaten Kediri, Jawa Timur. Mbah Kandar putra dari seorang tokoh agama, Kiai Abdullah Iskam. Semua anak Kiai Abdullah dididik dengan baik agar kelak menjadi insan-insan yang saleh dan salehah, berguna bagi agama, bangsa, dan negara.
Di bawah asuhan ayahnya, Mbah Kandar memperoleh pendidikan agama dengan penuh disiplin. Karena itu, saat usianya baru 7 tahun, ia telah mengkhatamkan al-Quran. Selain memperoleh pendidikan agama seperti tata cara ibadah serta akidah, Mbah Kandar kecil juga disekolahkan di lembaga pendidikan formal, Sekolah Rakyat.
Setelah lulus dari Sekolah Rakyat, pada usia 13 tahun Mbak Kandar dimasukkan di Pondok Pesantren Jampes yang diasuh Kiai Dahlan selama lima tahun. Dari Pondok Jampes, Mbah Kandar meneruskan nyantri kepada Kiai Manaf Abdul Karim di Pesantren Lirboyo. Setelah tiga tahun, Mbah Kandar minta izin untuk mondok ke pesantren lain. Atas saran Kiai Manaf, Mbah Kandar berguru kepada Kiai Khozin di Pondok Pesantren Buduran Sidoarjo. Kepada Kiai Khozin inilah Mbah Kandar banyak belajar ilmu tasawuf mulai usia 21 tahun.
Hanya berlangsung setahun, Mbah Kandar kemudian melanjutkan mondok lagi, kali ini di Pondok Panji Siwalan yang diasuh oleh Kiai Ya’kub yang kesohor dengan kewaliannya. Di Pondok Panji Siwalan mondok selama 1,5 tahun.
Pada 1924, saat usianya sekira 23,5 tahun, Mbah Kandar nyantri kepada KH Hasyim Asy’ari di Pondok Pesantren Tebuireng Jombang. Di sini, niat Mbah Kandar ingin mempelajari ilmu hadits, yang menjadi spesialisasi KH Hasyim Asy’ari. Setelah khatam kitab Shahih Bukhori, tanpa diduga KH Hasyim Asy’ari menyuruh Mbah Kandar untuk pulang kampung guna mengamalkan ilmu yang telah didapatkan di berbagai pondok pesantren.
Kepulangan Mbah Kandar mendapat sambutan hangat. Ia telah menjadi pemuda yang alim. Banyak masyarakat sekitar yang datang untuk mengaji atau belajar ilmu agama kepada kiai muda tersebut. Tak lama sejak kepulangannya, Mbah Kandar dinikahkan dengan putri dari teman ayahnya. Pernikahan ini terjadi pada 1926, saat usia Mbah Kandar mencapai 25 tahun. Dari pernikahan ini, Mbah Kandar dikarunia dua anak, Siti Khodijah dan Hasyim Asy’ari. Saat itu, Mbah Kandar telah memiliki santri lebih dari 150 orang.
Rupanya pernikahan Mbah Kandar tak berumur panjang. Kelahiran dan pengasuhan kedua anaknya yang dibiayai sang mertua ternyata dihitung sebagai utang. Karena kecewa atas ketidaktulusan sang mertua, Mbah Kandar akhirnya menceraikan istrinya. Dalam suasana kekecewaan itulah Mbah Kandar kembali menjadi santri kelana.