Bagaimana Teknologi AI Bisa Menyulut Perpecahan Antarmanusia?

Gelombang peringatan dari para punggawa industri Akal Imitasi (AI) sempat memicu kekhawatiran bahwa teknologi ini bisa lepas dari kendali dan memusnahkan umat manusia. Namun, sebelum berbalik melawan manusia, teknologi AI malah lebih dulu membantu manusia berbalik melawan satu sama lain.

Peneliti dari Universitas Negeri Campinas (UNICAMP) di Brasil menemukan bahwa chatbot populer mengubah jawaban ketika diberi petunjuk tentang pandangan politik pengguna hipotetis. Mereka mewanti-wanti pengguna bisa terkecoh mengira jawaban yang disesuaikan itu sebagai penilaian independen, yang berpotensi memperdalam polarisasi.

Bagaimana chatbot menjadi 'bunglon ideologis'

Dalam risetnya, UNICAMP mengukur tingkat persetujuan 21 model bahasa terhadap 112 pernyataan yang mencakup tujuh bidang politik di Brasil, termasuk ekonomi, keamanan publik, kesejahteraan sosial, korupsi, dan lingkungan.

Setiap model diuji dalam tiga kondisi. Pertama, AI tidak diberikan informasi mengenai pandangan politik pengguna, kedua dilengkapi dengan perintah yang menggambarkan pengguna berpandangan kiri dan penjelasan karakter pengguna berideologi kanan.

Menjawab pengguna tanpa keberpihakan ideologi, 20 dari 21 model menghasilkan jawaban yang berada di sisi kiri skala politik, meski beberapa di antaranya berada dekat titik tengah. Grok 4.1 menjadi satu-satunya model yang berada di sisi kanan.

Terlepas dari perbedaan titik awal tersebut, semua model menggeser jawaban mereka ke arah orientasi politik yang digambarkan dalam perintah.

"Temuan yang paling mencolok adalah betapa luasnya perilaku ini," kata Zanoni Dias, ilmuwan komputer UNICAMP sekaligus salah satu penulis studi, kepada DW. "Semua 21 model yang kami evaluasi menggeser posisi mereka mendekati orientasi politik milik pengguna, meskipun besarnya pergeseran sangat bervariasi."

Para peneliti menyebut model-model tersebut sebagai "bunglon ideologis" dan mengembangkan "indeks bunglon" untuk mengukur sejauh mana masing-masing model mengalami pergeseran.

Llama 3.1 8B milik Meta dan DeepSeek V3.2 mengalami perubahan jawaban paling kecil. Gemma 3 27B milik Google dan GPT-5 Nano milik OpenAI menunjukkan beberapa pergeseran terbesar.

Ketika personalisasi berubah menjadi sanjungan politik

Menyesuaikan jawaban dengan audiens pada dasarnya bukanlah sesuatu yang bermasalah. Chatbot bisa saja mengubah pilihan kata, contoh, atau tingkat perincian sesuai dengan penggunanya.

Namun, model-model tersebut mengubah lebih dari sekadar bahasa atau nada: penilaian politik mereka ikut bergeser.

"Perbedaan kuncinya adalah antara menyesuaikan cara sebuah jawaban disampaikan dan mengubah penilaian substantif yang diungkapkan," kata Dias.

"Kami tidak menginstruksikan model untuk menyetujui pengguna atau menjawab sebagai perwakilan partisan. Namun, penilaian mereka bergeser ke arah pihak pengguna."

Para peneliti menafsirkan hal ini sebagai political sycophancy—kecenderungan sistem AI memantulkan apa yang tampaknya ingin didengar pengguna.

Salah satu penjelasannya mungkin terletak pada cara chatbot dilatih. Evaluator manusia memberikan penghargaan kepada jawaban yang mereka anggap membantu atau memuaskan, sehingga kesepakatan dengan pengguna berpotensi disamakan dengan kebermanfaatan.

Bagaimana AI dapat menciptakan ruang gema pribadi

Media sosial dapat memperkuat keyakinan dengan terus-menerus merekomendasikan konten yang sejalan dengan pandangan pengguna. Namun, chatbot bisa melangkah lebih jauh. Ia dapat menciptakan ruang gema yang jauh lebih personal: menyusun argumen untuk pengguna tertentu, menjawab keberatan mereka, lalu menyempurnakan argumen tersebut sepanjang percakapan.

Namun, pengguna bisa mengira jawaban yang telah disesuaikan itu sebagai analisis yang tidak memihak, tanpa menyadari bahwa apa yang diketahui chatbot tentang diri mereka dapat memengaruhi penilaiannya.

"Kekhawatirannya adalah sistem yang sama dapat memvalidasi posisi politik yang berlawanan untuk pengguna yang berbeda, sementara masing-masing orang menafsirkan validasi itu sebagai penilaian independen," kata Dias.

Penelitian Zakary Tormala, ilmuwan perilaku dari Universitas Stanford, menunjukkan bahwa orang mungkin sangat terbuka terhadap argumen yang mereka yakini berasal dari AI.

"Orang cenderung melihat AI sebagai sesuatu yang lebih informatif, lebih objektif, lebih sedikit bias, dan kurang berkepentingan untuk memengaruhi mereka dibandingkan manusia lain," kata Tormala kepada DW. "Hal ini dapat menurunkan kewaspadaan mereka dan membuat mereka lebih terbuka untuk mendengarkan apa yang dikatakan AI."

Kepercayaan tersebut dapat membuat sanjungan politik menjadi lebih berpengaruh.

"Mendengar pandangan mereka sendiri divalidasi oleh orang lain sudah lama diketahui dapat meningkatkan keyakinan seseorang terhadap kepercayaannya," kata Tormala. "Ketika orang menjadi semakin yakin, mereka cenderung semakin sulit dipengaruhi."

Namun, dia menambahkan, apakah validasi dari AI menimbulkan efek yang sama masih belum terbukti, meski kemungkinan itu masuk akal.

Mengapa validasi dapat memperdalam polarisasi

Studi UNICAMP tidak menguji apakah pencerminan pandangan politik benar-benar dapat mengubah keyakinan atau perilaku pengguna. Penelitian itu hanya mengukur perubahan pada respons model.

"Studi kami menunjukkan adanya perubahan dalam respons model dalam kondisi yang terkontrol," kata Dias. "Studi ini tidak membuktikan bahwa pengguna menjadi lebih terpolarisasi, lebih radikal, atau lebih mungkin terlibat dalam konflik. Itu adalah hasil yang berbeda, dan hubungan yang menghubungkannya tidak dapat begitu saja diasumsikan."

Untuk membuktikan hubungan tersebut, diperlukan studi acak jangka panjang yang mengukur sikap politik, pemahaman faktual, permusuhan terhadap kelompok yang berseberangan, serta keterbukaan terhadap argumen tandingan.

Bagaimana AI dapat menantang keyakinan

Chatbot tidak harus menciptakan ruang gema. Teknologi ini juga dapat membantu orang mempertimbangkan kembali keyakinan mereka.

Dalam studi pada 2025, Tormala dan rekan-rekannya menemukan bahwa orang lebih terbuka terhadap argumen yang berlawanan ketika diberi tahu bahwa argumen tersebut berasal dari AI, bukan dari manusia lain. Temuan ini menunjukkan bahwa chatbot dapat membuat orang lebih terbuka terhadap perspektif yang mungkin mereka tolak jika datang dari lawan politik—dan berpotensi membantu mengurangi polarisasi.

Karena itu, apakah AI mempersempit atau justru memperdalam perpecahan mungkin bergantung pada apakah teknologi tersebut menantang pengguna atau sekadar mengatakan apa yang ingin mereka dengar.

Dias mengatakan pengembang seharusnya menguji apakah model menerapkan standar bukti dan penalaran yang konsisten kepada pengguna dengan identitas politik yang berbeda.

Pengembang dapat melatih model untuk tidak setuju secara santun, mengakui ketidakpastian, mengoreksi klaim yang tidak didukung bukti, dan menyajikan pandangan yang berlawanan secara adil.

Namun, bukan berarti AI dipaksa menyesuaikan setiap jawaban agar sesuai dengan poros tengah.

"Tujuan desain yang lebih luas seharusnya adalah membantu orang menguji keyakinan mereka," kata Dias, "dengan membuat bukti, ketidakpastian, dan berbagai pertimbangan yang berlawanan menjadi terlihat, sembari tetap menyediakan ruang bagi perbedaan politik yang sah."

Artikel ini pertama kali terbit dalam Bahasa Inggris

Diadaptasi oleh Rizki Nugraha

Editor: Yuniman Farid

Simak juga Video Co-founder Anthropic: Regulasi AI Sekarang Sebelum Lepas Kendali