Ketika Hizbullah berdiri pada 1944, KH Abdul Chalim adalah salah satu penasihat nasionalnya. Dalam situasi inilah, KH Abdul Chalim membentuk Hizbullah Cabang Majalengka bersama KHAbbas Buntet Cirebon. Hizbullah Majalengka kemudian bahu membahu bersama dengan kelompok-kelompok pejuang lainnya, baik dari laskar-laskar santri maupun laskar-laskar pemuda lainnya untuk mempertahankan kemerdekaan Republik Indonesia. Bahkan, semasa pemerintahan sementara, ia menduduki jabatan penting sebagai anggota MPRS sampai lahirnya pemerintahan definitif.
Pada 1955, KH Abdul Chalim menjadi anggota DPR dari Partai NU perwakilan Jawa Barat. Sejak saat itu, perjuangan KH Abdul Chalim lebih dititikberatkan pada pemberdayaan warga NU Jawa Barat dengan membentuk berbagai wadah pemberdayaan masyarakat seperti PERTANU (Perkumpulan Petani NU), PERGUNU (Perkumpulan Guru NU), dan pendirian lembaga-lembaga formal pendidikan NU di Jawa Barat.
Dalam perjalanannya berjuang untuk Indonesia dan NU, KH Abdul Chalim dikenal sebagai tokoh sederhana dan rendah hati. Dalam kisah perjalannya dari Leuwimunding ke Surabaya yang dicantumkan dalam buku Sejarah Perjuangan Kiai Haji Abdul Wahab,ia hanya berbekal sarung dan makanan seadanya serta dengan berjalan kaki dalam waktu empat belas hari. Lalu, pada saat menjadi anggota DPR GR, tak pernah sedikit pun memakai uang atau fasilitas negara. Bahkan, ketika perjalanan ke ibu kota Jakarta, ia hanya menggunakan musala dan masjid sebagai tempat istirahat.
Makam KH Abdul Chalim Leuwimunding.
Karena Gus Dur Ziarah
Saking sederhananya, ketika wafat tidak ada satupun warisan berharga yang ditinggalkan kepada keturanannya, selain madrasah kecil (bukan pondok pesantren) di Leuwimunding bernama Madrasah Sabilul Halim. Ditambah lagi, ia tidak pernah berwasiat untuk memberikan hal yang spesial pada makamnya sendiri. Bahkan, keberadaan makam KH Abdul Chalim baru banyak diketahui masyarakat pada Maret 2003, Ketika Presiden ke-4 RI, KH Abdurrahman Wahid atau Gus Dur berziarah ke Leuwimunding. Bisa dibayangkan jika bukan karena Gus Dur, maka mungkin sampai detik ini pun jasa-jasa dan makamnya hanya akan diketahui oleh segelintir orang saja.
Dari kesederhanaan dan kerendahhatiannya ini pula akhirnya banyak orang yang keliru dan tidak bisa membedakan antara KH Abdul Chalim Leuwimunding dengan Abdul Halim-Abdul Halim lainnya. Berdasarkan penjelasan dari KH A Lazim Soeadi, salah satu pengajar di Pondok Pesantren Amanatul Ummah, di Jawa Barat ternyata banyak ulama yang bernama Abdul Halim. Atas kenyataan itu, seringkali saya temukan buku-buku sejarah yang salah mencantumkan foto. Yang seharusnya itu adalah sosok KH Abdul Chalim Leuwimunding, namun yang dipasang justru gambar KH Abdul Halim yang lain.
Diceritakan langsung oleh KH Asep Saifuddin, saat-saat akhir hayatnya, KH Abdul Chalim sering mengkaji kitab yang membahas kematian atau sakaratul maut. Kemudian, 40 hari sebelun wafat, ia sering didatangi oleh malaikat dangan menyuguhkan makanan. Semakin mendekati hari kematiannya, KH Abdul Chalim semakin sering mengkaji kitab tentang kematian. Hingga pada hari kematiannya, selepas menunaikan ibadah salat subuh, KH Abdul Chalim sempat mengelilingi empat desa di Kecamatan Leuwimunding, yaitu Desa Leuwimunding, Ciparay, Leuwikujang, dan Desa Mirat. Beberapa saat menjelang siang, KH Abdul Chalim mengumpulkan keluarga beserta semua istri-istrinya. Tidak lama setelah pertemuan itu, ia naik ke loteng dan di sanalah beliau ditemukan sudah menghadap Ilahi Rabbi SWT, yakni pada 11 April 1972 dengan posisi tengkurap sambil membawa selembar kertas dan sebuah pena.
Sang Alim Allamah dan sosok pejuang serta pendiri NU yang sederhana ini dimakamkan di Kompleks Pesantren Sabilul Chalim di Kecamatan Leuwimunding, Majalengka, Cirebon, Jawa Barat.