Perbedaan mendasar ini terungkap jelas dalam cara kedua entitas memproses informasi. Bagi manusia, pemahaman akan realitas merupakan proses yang hermeneutis dan sarat makna. Kita tidak melihat dunia sebagai kumpulan data mentah saja.
Seperti, sebuah pohon tidak hanya sebagai objek dengan sifat-sifat tertentu (tinggi, hijau, berkayu). Ia adalah simbol kehidupan, pertumbuhan, dan alam; ia membangkitkan kembali memori masa kecil dahulu tentang bermain di bawah naungannya; ia menanamkan perasaan keteduhan atau mungkin kesendirian; kehadirannya dalam sajak-sajak puisi membawa muatan metafora yang dalam. Objek material dipahami melalui simbol-simbol yang sarat makna yang diperkaya oleh nuansa emosional dan kontekstual.
Filsuf Thomas Nagel menyatakan intinya dalam esai “What Is It Like to Be a Bat?“—ada sesuatu yang dirasakan sebagai menjadi seekor kelelawar, sebuah pengalaman subjektif yang disebut qualia. Manusia pun hidup di dunia qualia-nya sendiri.
Sebaliknya, AI memproses realitas dengan menginterpretasikan ke dalam bahasa yang universal dan tanpa jiwa: matematika. Sebuah gambar pohon, baginya, merupakan sebuah matriks piksel yang besar, di mana setiap sel memiliki nilai numerik untuk warna, kecerahan, dan saturasi. Sebuah puisi tentang pohon adalah sebuah urutan token dalam ruang vektor multidimensi, di mana setiap kata memiliki hubungan statistik dengan kata lainnya. Kecerdasannya muncul dari kemampuan untuk mengidentifikasi pola, korelasi, dan anomaly dalam data numerik ini.
Dengan demikian, kekurangan mendasar AI, setidaknya untuk saat ini, adalah ketidakmampuannya untuk mengalami dimensi afektif dari informasi tersebut. AI dapat mengenali emosi dalam teks atau gambar dengan akurasi yang tinggi karena ia telah dilatih pada jutaan contoh data yang berlabel. Ia dapat berpendapat bahwa sebuah puisi itu “sedih” melihat pola katanya yang koheren dengan pola lain yang telah diklasifikasikan sebagai “sedih”. Namun, AI tidak merasakan langsung kesedihan itu. Ia tidak memiliki qualia. Ia memanipulasi simbol tanpa memahami makna di baliknya.
Skeptisisme Filosofis
Pada paro abad ke-20, sebelum kemajuan AI modern, para pemikir seperti Hubert Dreyfus dan John Searle sudah menggaungkan skeptisisme mendalam terhadap klaim-klaim ambisius dari AI. Searle, melalui Argumen Ruang Cina (Chinese Room Argument) yang legendaris, memberikan tamparan telak terhadap klaim “AI Kuat” (Strong AI)—keyakinan bahwa sebuah program komputer yang tepat dapat benar-benar memiliki pikiran dan kesadaran.
Bayangkan, seorang yang hanya paham bahasa Inggris dikurung dalam sebuah ruangan tempat dia menerima sebuah kumpulan simbol dalam bahasa China beserta seperangkat aturan kompleks (program) dalam bahasa Inggris yang menjelaskan bagaimana memanipulasi simbol-simbol tersebut berdasarkan simbol input yang dia terima melalui celah. Orang tersebut kemudian diberikan sekumpulan simbol input (pertanyaan dalam bahasa China) dan, dengan mengikuti aturan, menghasilkan sekumpulan simbol output (jawaban yang koheren). Bagi orang di luar ruangan, sang penghuni ruangan terlihat memahami betul bahasa China dengan sempurna. Namun, kenyataannya, si penghuni ruangan hanya memanipulasi simbol tanpa memahami satupun makna kata.
Searle menggambarkan bahwa komputer yang menjalankan program AI persis seperti orang dalam ruangan itu. Ia menjalankan sintaksis untuk memanipulasi simbol tanpa memiliki dimensi semantik.