Abdullah Syukri Zarkasyi menamatkan Sekolah Dasar di Desa Gontor pada 1954. Setelah menamatkan Kulliyatu-l-Mu’allimin Al-Islamiyah (KMI) Pondok Modern Darussalam Gontor pada 1960, ia melanjutkan studi di IAIN Syarif Hidayatullah Jakarta hingga mendapatkan gelar Sarjana Muda pada 1965. Adapun, gelar Lc didapat dari Al Azhar University Kairo, Mesir pada 1976. Ia kemudian melanjutkan studi di lembaga yang sama hingga meraih gelar Ma pada 1978, dan gelar Doctor Honoris Causa pada 2005 dari Universitas Islam Negeri Syarif Hidayatullah Jakarta.
