Dengan bertambahnya tahun, bertambah pula jumlah santri. Pertambahan santri yang signifikan mendorong Kiai Abdul Karim berniat mendirikan masjid. Pada 1913, cikal bakal Masjid Lawang Songo mulai dirintis. Perintisan masjid itu disebabkan masjid merupakan elemen yang tidak dapat dipisahkan dengan pondok pesantren. Masjid yang dianggap sebagai tempat umat Islam mengadakan berbagai macam kegiatan keagamaan seperti praktik salat berjamaah dan lain sebagainya.
Pembangunan awal Masjid Lawang Songo pada mulanya berbahan dasar kayu, baik dinding maupun atapnya. Setelah beberapa lama masjid itu digunakan, masjid itu mengalami kerapuhan. Masjid dari kayu tersebut pernah hancur juga ditiup angin beliung. Akhirnya, Kiai Muhammad, kakak ipar Kiai Abdul Karim, mempunyai inisiatif untuk merenovasi masjid yang telah rusak itu dengan bangunan yang permanen. Kiai Muhammad menemui Kiai Abdul Karim untuk bermusyawarah mengenai perenovasian masjid.

Tidak lama kemudian, Kiai Abdul Karim mengutus H Ya’qub, adik iparnya, untuk sowan berkonsultasi dengan KH Ma’ruf Kedunglo mengenai langkah yang perlu ditempuh dalam pelaksanaan renovasi masjid tersebut. Dari pertemuan itu disepakati bahwa dana pembangunan masjid dihimpun dari sumbangan para dermawan. Masjid Lawang Songo Lirboyo akhirnya berdiri pada 1928.
Saat itu, Masjid Lawang Songo menjadi masjid megah pada masanya. Masjid Lawang Songo dibangun dengan bergaya klasik. Gaya klasik tersebut terinspirasi arsitektur Jawa kuno yang diakulturasi dengan arsitektur Timur Tengah. Akulturasi arsitektur tersebut untuk mengenang kembali masa keemasan Islam pada abad pertengahan, yaitu kejayaan Daulat Fatimiyyah. Peresmian Masjid Lawang Songo Lirboyo dilakukan pada 15 Rabi’ul Awwal 1347 H/1928 M. Acara itu bertepatan dengan acara ngunduh mantu putri Kiai Abdul Karim yang kedua, Salamah dengan KH Manshur Paculgowang.

Pusat Studi Islam
Seiring perkembangan zaman, Pondok Pesantren Lirboyo berkembang menjadi pusat studi Islam sejak puluhan tahun sebelum kemerdekaan Republik Indonesia. Dalam peristiwa mempertahankan kemerdekaan RI, Pondok Pesantren Lirboyo ikut berperan dalam pergerakan perjuangan dengan mengirimkan santri-santrinya ke medan perang pada 10 November 1945 di Surabaya.
Sebagai Pusat pendidikan Islam, Pondok Pesantren Lirboyo mencetak generasi bangsa yang cerdas ruhaniyah, juga cerdas intelektual, dan kompeten di berbagai bidang. Pondok Pesantren Lirboyo memadukan antara tradisi dan inovasi agar mampu mengikuti tantangan zaman. Hal tersebut terbukti dengan tokoh-tokoh yang salih di bidang keagamaan, sosial, dan IPTEK yang merupakan alumni Pondok Pesantren Lirboyo.
