Saat itulah, bertujuan mengajarkan dan mengamalkan ilmunya, Kiai Noer Alie mendirikan sebuah masjid di Kampung Ujungharapan, Kelurahan Bahagia, Kecamatan Babelan, Kabupaten Bekasi. Lalu dikembangkan menjadi pesantren. Ia mulai mengajar para santri di tempat sederhana itu.
Namun, pendidikan yang mulai dirintis itu terganggu situasi politik yang memanas, perang kemerdekaan dan agresi Belanda. Kiai Noer Alie pun ikut terlibat aktif dalam perang mengusir penjajah, sehingga seluruh kegiatan belajar terhenti. Karena itu, pesantren ini juga dikenal dengan sebutan pesantren perjuangan. Sebab, saat itu pesantren Kiai Noer Alie juga dijadikan salah satu pusat perjuangan melawan penjajah. Bahkan, di zaman penjajahan, Kiai Noer Ali memerintahkan kepada santrinya ikut berperang melawan penjajah.
Baru pada 1950, ketika situasi sudah membaik, Kiai Noer Alie meneruskan perjuangannya dalam dunia pendidikan. Ia mulai membangun pesantren dan madrasah. Saat itu, pesantrennya dikenal dengan nama Pesantren Islam Bahagia, sesuai dengan nama kelurahannya. Melalui pesantren yang dirintisnya, Kiai Noer Alie ingin melahirkan kader yang benar, pintar,dan terampil. Benar dalam hal ini berarti benar terlebih dahulu dalam hal apa pun, baru kemudian menjadi generasi pintar dan terampil. Berkat ketekunannya, jumlah santrinya semakin banyak.