Setelah melakukan istikharah, Kiai Zaini secara lahir batin berjuang dan mencurahkan pikirannya untuk NU. Walaupun jauh sebelum itu, waktu Kiai Zaini mondok di Pondok Pesantren Tebuireng sudah mendapatkan pesan secara lisan dari KH Hasyim Asy’ari untuk mengurus NU.
Perjuangan Kiai Zaini di NU
Kiai Zaini menjadi Ra’is Syuriah NU Cabang Kraksaan pada tahun 1953 menggantikan posisi KH Abdul Latif yang meninggal dunia. Kinerja pertama Kiai Zaini setelah terpilih menjadi Ra’is Syuriah adalah melakukan konsolidasi organisasi.
Pertama, mengajak para ulama untuk ikut berperan aktif dalam menjaga hubungan dengan masyarakat dan organisasi NU. Kedua, mengimbau kepada Majelis Wakil Cabang (MWC) dan Ranting untuk segera mengadakan rapat keanggotaan. Kiai Zaini juga selalu ikut terlibat dalam setiap rapat walaupun posisinya sebagai Ra’is Syuriah, bahkan di lokasi daerah yang terpencil sekalipun.
Untuk mengantisipasi dari kemungkaran yang sering terjadi di masyarakat, Kiai Zaini mengadakan program Sulamisasi untuk menghilangkan dan mencegahnya (Istilah Sulamisasi tidak perlu dicari di EYD ataupun kamus ilmiah. Sebab, kata itu merupakan istilah yang sangat masyhur di kalangan santri. Kata asalnya dari Sullam, dinukil dari Kitab Sullam at-Taufiq. Sulamisasi berarti diberi pemahaman keagamaan dari kitab Sullam at-Taufiq). Akhirnya Pengurus cabang mengadakan pengajian rutinan kitab Sullam at-Taufiq setiap malam.
Kiai Zaini mempunyai visi dan misi untuk menaikkan derajat dan kesejahteraan masyarakat kalangan bawah, warga NU khususnya. Pada lain sisi aparat pemerintahan menjalankan ajaran Islam secara utuh dan konsekuen. Orientasi dan keinginan Kiai Zaini untuk membesarkan nama NU dengan cara memperhatikan kepentingan masyarakat bawah, tidak terlalu fokus ke dalam kedudukan dan kekuasaan di dalam pemerintahan. Perjuangan Kiai Zaini di NU tidak hanya memikirkan permasalahan agama belaka, namun juga masyarakat dan negara.
Tipikal Kiai Zaini tidak suka kalau umat Islam dibeda-bedakan. Tiak senang jika NU dan Muhammadiyah selalu diperselisihkan dan dikotak-kotakkan.
Sebaliknya, Kiai Zaini lebih suka mencari persamaan di antara keduanya dari pada menelisik perbedaannya. Walaupun sukar untuk dinafikan bahwa di antara keduanya perbedaan itu tetap ada.