Yuval N. Harari, dalam buku ketiganya yang bertajuk 21 Adab Untuk Abad 21 menyampaikan bahwa terdapat dua ancaman teknologi terutama algoritma dan AI paling kejam yang akan dan bahkan telah hadir di tengah-tengah kehidupan manusia. Mereka adalah teknologi yang dapat mempermudah pekerjaan dan teknologi dapat menggantikan sebagian besar peran manusia. Dalam hal ini, meskipun teknologi pada dasarnya memang membantu manusia, tetapi apakah yang dimaksud dengan membantu?
Kenyataannya, algoritma menjadi ancaman serius bagi peradaban manusia. Manusia yang sesungguhnya kini memang telah dikendalikan oleh algoritma itu sendiri. Di mana segala pemikiran dan pengetahuannya mulai sedikit demi sedikit dikendalikan oleh Google, dan hasrat keinginannya juga sudah dipengaruhi oleh YouTube dan Instagram. Dan bahkan dalam pengambilan keputusan, manusia juga telah dikendalikan oleh teknologi. Contoh kecilnya dalam penggunaan Google Maps, di mana selama perjalanan kita akan diberi keputusan dalam memilih melewati jalur mana untuk kita dapat sampai pada suatu tujuan.
Walau manusia masih dapat menggunakan kesadarannya saat menggunakan media atau aplikasi tersebut, tetapi ia telah berada dalam satu ruang yang di mana segala keputusannya dikendalikan oleh apa yang ada di luar dirinya. Bayangkan saja, andai nanti segala keputusan yang seharusnya dipilih bebas oleh manusia malah ditentukan oleh hasil keputusan algoritma?
Mungkin, di balik permukaan logam dan kode-kode algoritma itu, bisa jadi tersembunyi mimpi buruk yang dibalut dalam balutan kemajuan. Dan kita sedang berjalan menuju mimpi buruk itu tanpa henti, tanpa pernah berhenti untuk bertanya: ke mana kita sebenarnya melangkah?
AlphaGo dan Deep Blue mungkin hanya awal dari perjalanan panjang ini. Tapi pertanyaan sesungguhnya bukan tentang masa depan. Ini soal hari ini. Alarmnya sudah lama berbunyi. Sekarang tinggal kita menjawab: apakah kita cukup bijak untuk menyikapi?
Oleh karena itu, kini bukan saatnya kita hanya terus bertanya. Kita harus memastikan bahwa kemajuan mesin tidak menggerus kemanusiaan, tapi justru dapat memperkuat nilai-nilai yang menjadikan kita sebagai manusia: memperkuat empati, membangun kebijaksanaan, dan menyusun kendali etis dalam setiap aspek kehidupan kita.