UNESCO dalam laporan tahun 2019 bertajuk “I’d Blush If I Could” mengkritik fenomena ini. Laporan itu menunjukkan bahwa banyak chatbot perempuan merespons pelecehan verbal dengan tawa, kalimat santun, atau bahkan pujian balik. Bayangkan, sistem ini diam-diam mengajari pengguna bahwa melecehkan adalah hal normal yang tidak perlu dikoreksi.
AI menyerap ratusan juta kalimat dari Internet, dan Internet bukanlah tempat yang adil secara gender. Forum-forum online seperti Reddit, Quora, atau StackOverflow, yang menjadi sumber data bagi banyak model bahasa, didominasi oleh laki-laki, dengan gaya bahasa yang sering kali mengandung seksisme, walau halus.
Hasilnya, sistem pembelajaran mesin menyerap struktur itu. Siapa yang dominan bicara, siapa yang jadi subjek, dan siapa yang disingkirkan dari percakapan. Ini bukan hanya masalah representasi, tapi masalah kuasa.
Emily Bender, profesor linguistik dari University of Washington, pernah berkata, “Every language model is a political actor. It decides what counts as knowledge, and who gets to speak.” AI bukan sekadar pengolah bahasa, tapi penjaga gerbang percakapan. Ia memilih apa yang pantas didengar dan apa yang dibiarkan hilang.
Dalam konteks Indonesia, kita menghadapi problem ganda, bahasa yang beragam dan struktur patriarkal yang kompleks. Kata “perempuan” dalam berita sering disandingkan dengan kata-kata seperti “korban”, “istri”, atau “menangis”. Sementara, “laki-laki” lebih sering tampil dalam posisi “pelaku”, “pemimpin”, atau “berprestasi”. Pola ini terulang dalam ribuan artikel berita daring, yang menjadi bahan belajar AI lokal.
Di salah satu platform berita daring populer Indonesia, jika kita mengetik “perempuan” di kolom pencarian, artikel yang muncul berkisar seputar kekerasan, fashion, dan keluarga. Sementara, kata “laki-laki” lebih sering dikaitkan dengan prestasi, kriminalitas, atau kepemimpinan.
Di dunia kerja, lowongan yang ditargetkan secara algoritmik cenderung menyasar laki-laki untuk posisi teknik dan finansial, sementara perempuan lebih sering mendapat iklan pekerjaan administratif. Ini sudah dibuktikan oleh sejumlah riset tentang sistem periklanan otomatis di platform seperti Facebook dan Google.
Hal ini menjadi berbahaya ketika teknologi digunakan dalam proses rekrutmen atau seleksi beasiswa. Sistem berbasis AI bisa saja tanpa sadar menyaring kandidat berdasarkan asumsi gender yang tak adil.