Misalnya, penelitian oleh Nguyen (2024, hlm. 92) mengungkapkan bahwa algoritma media sosial seringkali memfilter konten sehingga pengguna hanya melihat informasi yang sesuai dengan pandangan mereka, yang memperburuk radikalisasi.
Hal ini menyebabkan individu semakin terisolasi dari perspektif yang berbeda, meningkatkan kecenderungan mereka untuk mengadopsi pandangan ekstrem. Penelitian ini menunjukkan bahwa echo chambers tidak hanya memperburuk polarisasi, tetapi juga mempercepat proses radikalisasi dengan menciptakan lingkungan di mana ideologi ekstrem dapat berkembang tanpa adanya intervensi dari pandangan yang lebih moderat.
AI memungkinkan manipulasi data dalam skala besar yang dapat digunakan untuk menyebarluaskan propaganda ekstrem. Teknik seperti analisis sentimen dan pembelajaran mesin memungkinkan untuk memperkuat narasi ekstrem dengan menargetkan audiens tertentu berdasarkan preferensi dan perilaku mereka.
Nguyen (2024, hlm. 92) mencatat bahwa teknik-teknik ini memungkinkan penyebaran propaganda dengan cara yang sangat terarah dan efektif.
Contoh nyata dari manipulasi data adalah penggunaan algoritma untuk menyesuaikan iklan politik yang menyebarkan pesan ekstrem ke audiens yang sudah cenderung memihak. Ini tidak hanya mempengaruhi opini publik, tetapi juga memperburuk perpecahan sosial.
Penelitian oleh Nguyen menunjukkan bahwa manipulasi data dapat mempengaruhi perilaku pemilih dan memperburuk ketegangan politik, terutama ketika narasi ekstrem disebarkan melalui media sosial yang sangat tersegmentasi.
Untuk mengatasi tantangan radikalisasi digital yang dipicu oleh AI, penting untuk menerapkan pendekatan yang menyeluruh. Regulasi yang ketat dalam penggunaan teknologi AI sangat penting untuk memastikan bahwa teknologi ini tidak disalahgunakan.
European Commission (2024, hlm. 134) menekankan perlunya pengawasan yang lebih ketat dan akuntabilitas dalam penggunaan teknologi digital untuk mengurangi risiko penyebaran ideologi ekstremis.