Di sinilah peran para filsuf, antropolog, ulama, dan budayawan menjadi penting. AGI bukan hanya urusan insinyur dan ilmuwan komputer. Ia harus diperlakukan sebagai proyek peradaban.
Ada ironi besar di balik AGI: sistem ini diciptakan untuk menjadi umum, tapi hanya dikembangkan oleh segelintir perusahaan raksasa di negara-negara maju. Maka risiko yang muncul bukan hanya teknologinya, tetapi sentralisasi kekuasaan di tangan segelintir aktor.
AGI bisa menjadi alat kolonialisme baru, yang tidak memakai kapal perang atau senjata, tapi memakai data, sistem algoritmik, dan pengaruh digital.
Oleh karena itu, dunia butuh arsitektur tata kelola AI yang adil. PBB, G20, dan forum multilateral lainnya harus mulai membahas kerangka etik dan hukum internasional untuk pengembangan AGI. Tidak boleh ada satu negara atau satu korporasi yang memiliki kekuasaan penuh atasnya.
AGI adalah tanda zaman. Ia bisa menjadi ujian terakhir dari proyek modernitas manusia, atau menjadi awal dari era baru yang lebih manusiawi, jika dikendalikan dengan bijak.
Indonesia, dengan kekayaan budaya, keragaman nilai, dan semangat gotong royong, seharusnya tidak hanya menjadi konsumen teknologi ini. Kita bisa menjadi suara moral, pengingat bahwa teknologi secanggih apa pun tetap harus melayani kehidupan.
Kita tak harus punya AGI sendiri, tapi kita harus punya posisi yang jelas: berpihak pada manusia, bukan pada efisiensi semata.