Manab lahir pada 1856 di Desa Diyangan, Kawedanan Mertoyudan, Magelang, Jawa Tengah, dari pasangan Kiai Abdur Rahim dan Nyai Salamah. Manab adalah nama kecil KH Abdul Karim, yang merupakan putra ketiga dari empat bersaudara. Kiai Abdur Rahim, ayah Manab, juga seorang petani sekaligus pedagang. Kehidupan keluarga Abdur Rahim sebenarnya berkecukupan. Hanya, setelah sang ayah meninggal, Manab memutuskan untuk mengembara dengan tujuan menuntut ilmu dan ingin meniru kedua kakaknya, yakni Aliman dan Mu`min yang lebih dulu berkelana.
Kharisma dan pengaruh para ulama pengikut Pangeran Diponegoro, seperti Kiai Imam Rofi`i dari Bagelan dan Kiai Hasan Bashori dari Banyumas, menginsiprasi Manab menjadi seorang pendakwah. Beliau tidak ingin hanya menjadi orang biasa. Karena itu, walau hanya anak seorang petani biasa, dia yakin bahwa keturunan sejati adalah keturunan sesudahnya, bukan sebelumnya. Karena, bagi beliau, nasab tidaklah penting. Yang penting adalah ilmu.
Ketika Aliman, kakak Manab, pulang ke Magelang, Aliman bermaksud mengajak Manab yang masih berusia 14 tahun untuk berkelana. Dengan berbekal restu orangtua, Manab akhirnya berangkat ke Jawa Timur. Dalam perjalanannya, keduanya sampai di Dusun Gurah, Kediri. Di dusun inilah Manab pertama kali menimba ilmu. Di susun ini juga keduanya menemukan sebuah surau yang diasuh oleh seorang kiai dan mulai menjadi santri untuk mempelajari ilmu-ilmu dasar seperti ilmu amaliyah –dengan membagi waktu sambil ikut mengetam padi, menjadi buruh warga desa saat panen tiba. Manab menimba ilmu kurang lebih selama enam tahun di Gurah, Kediri.
Setelah dinyatakan lulus oleh kiainya, beliau meneruskan ke Pesantren Trayang, Bangsri, Kertosono, Nganjuk, Jawa Timur. Di pesantren ini beliau memperdalam pengkajian ilmu al-Quran. Lalu beliau melanjutkan pengembaraan ke Pesantren Sono, sebelah timur Sidoarjo, sebuah pesantren yang terkenal dengan ilmu shorof-nya. Tujuh tahun lamanya beliau menuntut ilmu di pesantren ini. Manab menganggap ilmu shorof sangat penting dan dianggap sebagai ibu dari berbagai ilmu.
Setelah menguasai ilmu shorof, beliau kemudian meneruskan pengembaraan di salah satu pesantren besar di Pulau Madura, asuhan ulama kharismatik Syaikhona Kholil Bangkalan. Beliau menuntut ilmu kepada Syaikhona Kholil selama 23 tahun. Saat di Madura, Manab banyak menimba ilmu dan tak jarang menerima berbagai ujian.
Ada pengalaman yang mengejutkan ketika menjadi santri Syaikhona Kholil. Saat itu Manab sempat bekerja guna mencukupi kebutuhan hidup sehari-hari bersama Abdullah Fiqih, santri dari Cemara, Banyuwangi ke daerah Banyuwangi dan Jember. Setelah ia bersusah payah kerja dan pulang, hasil dari kerjanya itu diminta Kiai Kholil untuk makanan kambing-kambing beliau. Rupanya, itu sebagai isyarat dari Kiai Kholil bahwa Manab ternyata tidak diizinkan bekerja.
Kealiman Manab diperoleh dengan proses perjuangan mengaji kitab-kitab kuning dengan tekun. Meski sempat mengalami kekurangan uang untuk membeli kitab, namun dia punya siasat cerdas. Ia sering melakukan barter kitab yang sudah dia pelajari dengan kitab-kitab milik temannya yang belum dipelajari. Selain itu, ia juga sering menjual kitabnya. Uang dari penjualan itu ia belikan kitab yang baru.
Saat itu ia sudah berusia 40 tahun, sehingga sudah mencerminkan sosok yang alim dan figur Manab telah menampakkan sosok sesorang kiai. Walupun demikian, Manab tetap meneruskan pencarian ilmu di Pondok Pesantren Tebuireng, Jombang, Jawa Timur, yang diasuh oleh sahabat karibnya semasa di Bangkalan KH Hasyim Asy’ari.
Pada 1328 H/1908 M, KH Hasyim Asy’ari menjodohkan Manab dengan putri Kiai Sholeh dari Banjarmelati, Kediri. Manab menikah dengan Siti Khodijah Binti KH Sholeh, yang kemudian dikenal dengan nama Nyai Dlomroh. Dua tahun kemudian, KH Abdul karim bersama istri tercinta hijrah ke tempat baru, di sebuah desa yang bernama Lirboyo. Persisnya pada 1910.
Setelah beberapa lama bermukim, Manab memulai membangun musala di desa tersebut. Setelah berdirinya musala tersebut, banyak masyarakat yang kemudian berguru kepadanya. Ada seorang santri yang datang dari Madiun bernama Umar. Santri inilah yang kemudian menjadi santri pertama keluarga besar pesantren Lirboyo yang dirintis dari nol oleh Kiai Manab. Karena semakin antusiasnya masyarakat yang ingin menjadi santri Kiai Manab, tiga tahun kemudian, tepat pada 1913, beliau mendirikan sebuah masjid di tengah-tengah kompleks pondok. Masjid tersebut sebagai sarana ibadah dan sarana ta’lim wa taalum bagi santri.
Manab memang sosok yang sederhana. Beliau gemar melakukan riyadlah; mengolah jiwa atau tirakat, sehingga seakan hari-hari beliau hanya berisi pengajian dan tirakat. Pada 1920-an beliau melaksanakan ibadah haji yang pertama kali. Setelah pulang dari ibadah haji, Manab berganti nama menjadi KH Abdul Karim.
Dengan tekun, rajin, dan tabah, Kiai Manab mengembangkan pesantrennya. Dalam satu dasawarsa sudah banyak kemajuan yang dicapai. Jumlah santri semakin bertambah. Mereka datang dari berbagai penjuru. Beliau kemudian merelakan sebagian tanahnya untuk dihuni santri. Hingga akhirnya pesantren yang sederhana tersebut menjadi Pondok Pesantren Lirboyo, Kediri.
Pada 1942-1945, KH Hasyim Asyari, KH Abdul Karim, dan para ulama sempat dipanggil ke Jakarta oleh Pemerintah Kolonial Jepang. Tujuannya adalah untuk membentuk Shumubu atau Jawatan Agama Pusat. Lembaga inilah yang kemudian menjadi cikal bakal berdirinya Kementrian Agama setelah kemerdekaan.
Kiai yang lahir di Magelang ini juga ikut berperan dalam perjuangan kemerdekaan Republik Indonesia. Bentuk perjuangan beliau adalah ikut menggembleng Barisan Sabilillah dan Hizbullah. Bukan hanya itu, beliau juga tiga kali mengirimkan para santrinya untuk ikut bertempur. Dua kali ke pertempuran Surabaya. Pengiriman yang pertama sebanyak 97 santri, sedangkan yang kedua 74 santri. Yang ketiga kalinya mengirimkan pasukan ke pertempuran Sidoarjo dengan jumlah 309 santri. Beliau juga sempat terlibat dalam pelucutan senjata tentara Jepang di Kediri.
Pada 1950-an, KH Abdul Karim menunaikan ibadah haji yang kedua kalinya. Saat itu kondisi kesehatan beliau sudah tidak memungkinkan. Namun karena keteguhan hati akhirnya keluarga mengizinkan untuk menunaikan ibadah haji dengan ditemani sahabat akrabnya, KH Hasyim Asy’ari dan H Khozin, seorang dermawan asal Madiun.
Sosok KH Abdul Karim adalah sosok yang sangat istiqomah dan berdisiplin dalam beribadah, bahkan dalam keadaan apa pun. Hal ini terbukti ketika beliau menderita sakit, beliau masih saja istiqomah untuk memberikan pengajian dan memimpin salat berjamaah meski harus dipapah para santri. Pada 1954, tepatnya hari Senin tanggal 21 Ramadhan 1374 H, KH Abdul Karim berpulang ke rahmatullah. Makam beliau terletak di belakang masjid Lirboyo.