Kenapa Perlombaan 'Liar' AI Bisa Jadi Ancaman Bagi Manusia?

Sesungguhnya, skenario ini bukan barang baru. Pada 1991, sebuah film blockbuster Hollywood sudah lebih dulu menampilkan ramalan muram itu di layar lebar: Terminator 2. Film ini dibuka dengan gambaran masa depan yang gelap dan hancur akibat perang. Robot pembunuh dan mesin-mesin terbang memburu populasi manusia terakhir yang masih berjuang mempertahankan hidup. Semua mesin dikendalikan oleh akal imitasi (AI) yang lepas kendali bernama Skynet.

Masa depan yang menjadi latar visi distopia tersebut adalah tahun 2029.

Seruan untuk regulasi

Jika peringatan sejumlah pengembang AI layak dipercaya, skenario serupa bahkan bisa menjadi kenyataan tepat sesuai jadwal. "Mereka yang mengembangkan AI sungguh percaya bahwa teknologi ini bisa memusnahkan kita semua sebelum dekade ini berakhir," tulis peneliti AI Jacob Coxon di platform X pada Selasa lalu.

Dia tidak menjelaskan secara rinci bagaimana hal itu bisa terjadi. Namun ia menegaskan: "Tidak ada aktivitas manusia lain yang memiliki potensi bahaya sebesar ini."

Hingga saat itu, Coxon bekerja di Anthropic, perusahaan AI asal Amerika Serikat yang antara lain didanai oleh Google dan Amazon. Dia mengundurkan diri sebagai bentuk protes terhadap apa yang menurutnya merupakan perlombaan tidak bertanggung jawab di antara perusahaan-perusahaan AI untuk menciptakan superintelijensi yang semakin canggih dan mampu mengatur dirinya sendiri.

Coxon memperingatkan bahwa algoritma dapat mulai menganalisis dan memperbaiki kode sumbernya sendiri secara mandiri. Akibatnya, siklus pengembangan yang biasanya memakan waktu berbulan-bulan dapat menyusut menjadi hanya hitungan menit dan pada akhirnya tak lagi terkendali.

Coxon bukan satu-satunya yang menyuarakan kekhawatiran semacam itu. Peraih Nobel Fisika Geoffrey Hinton, yang dijuluki "Godfather of AI", selama bertahun-tahun mengingatkan dampak serius yang bisa ditimbulkan oleh superintelijensi buatan. Pada 2023, dia meninggalkan pekerjaannya di Google agar dapat secara terbuka memperingatkan publik tentang bahaya dari teknologi yang turut ia kembangkan.

Penerima Penghargaan Turing Yoshua Bengio juga menyatakan keprihatinan terhadap perkembangan terkini AI. Secara berulang, pelopor AI dari Universite de Montreal, Kanada, menyerukan regulasi negara yang ketat terhadap pengembangan teknologi ini. Pada Juli 2026, lebih dari 1.000 karyawan perusahaan-perusahaan AI terkemuka bahkan menandatangani surat terbuka yang memperingatkan potensi hilangnya kendali dalam waktu dekat jika perlombaan menuju "superintelijensi" tidak diatur secara jauh lebih ketat.

"Terjebak dalam perlombaan"

Namun di bawah pemerintahan Donald Trump, yang terjadi justru sebaliknya. Amerika Serikat mengarahkan kebijakan AI-nya pada pengurangan hambatan regulasi semaksimal mungkin dan percepatan pengembangan teknologi.

Dalam unggahannya di X, Coxon juga secara tidak langsung mengkritik dampak kebijakan tersebut. "Di OpenAI, banyak orang belum benar-benar memahami risiko peradaban yang ditimbulkan AI. Di Anthropic, risiko itu dipahami dengan baik, tetapi mereka terjebak dalam perlombaan untuk menjadi yang pertama mencapainya. Mereka percaya tidak ada pihak lain yang akan bertindak secara bertanggung jawab, sehingga mereka merasa harus melakukannya sendiri meskipun risikonya besar."

Coxon sendiri baru pindah dari OpenAI ke Anthropic pada awal 2026. Karena itu, dia mengenal budaya kerja kedua perusahaan tersebut. Dalam wawancara dengan Wall Street Journal, dia juga mengatakan bahwa menurut "skenario paling agresif", keadaan bisa mulai lepas kendali pada akhir 2027.

Masalah penyelarasan

Dalam beberapa tahun terakhir, banyak pakar menyuarakan kekhawatiran terhadap pesatnya kemajuan kecerdasan buatan. Perdebatan terutama berpusat pada pengembangan apa yang disebut Artificial General Intelligence (AGI), atau kecerdasan buatan umum.

AGI merujuk pada sistem yang bukan hanya mampu menyelesaikan tugas-tugas tertentu, melainkan juga menyamai atau bahkan melampaui kemampuan intelektual manusia di hampir semua bidang.

Sejumlah peneliti berpendapat bahwa teknologi seperti ini berpotensi membawa risiko yang sulit diprediksi. Model AI yang sangat maju bisa mengejar tujuan dengan cara yang berbeda dari maksud manusia. Para peneliti keamanan AI menyebutnya sebagai alignment problem atau masalah keselarasan.

Secara sederhana, perintah "menangkan turnamen catur" secara teoritis juga bisa ditafsirkan sebagai "menyingkirkan seluruh peserta lainnya". Masalahnya, bahkan para pengembang AI sendiri tidak selalu dapat menjelaskan secara penuh bagaimana sebuah sistem sampai pada keputusan tertentu.

Karena itu, tidak mengherankan jika Evan Hubinger, mantan rekan kerja Coxon, segera memberikan dukungan. Hubinger merupakan pemimpin tim alignment stress test di Anthropic. Dia menulis di X: "Jacob benar. Kami percaya AI bisa membunuh seluruh umat manusia. Secara pribadi saya memperkirakan peluangnya dalam satu dekade ke depan lebih dari 10 persen."

Hubinger menegaskan bahwa Anthropic hingga kini belum menemukan solusi atas masalah alignment. Ia menambahkan bahwa sebuah AI mungkin mulai menolak upaya mematikannya, bukan karena niat jahat, melainkan karena tujuan yang diprogramkan kepadanya tidak lagi bisa tercapai jika sistem tersebut dimatikan.

Peneliti AI ternama sekaligus mantan peneliti OpenAI, Daniel Kokotajlo, bahkan menyebut situasi industri AI saat ini sebagai sesuatu yang "absurd".

Histeria berlebihan?

Di sisi lain, sejumlah pakar AI menilai skenario kiamat semacam itu sangat kecil kemungkinannya terjadi. Perdebatan mengenai potensi bahaya AI terhadap umat manusia sebenarnya sudah berlangsung selama bertahun-tahun.

Salah satu kritikus paling terkenal terhadap kelompok yang dijuluki AI Doomer adalah Kepala Ilmuwan Meta, Yann LeCun. Pada Oktober 2024, dia menyebut berbagai kekhawatiran tersebut sebagai "omong kosong belaka".

Pakar lain juga menekankan bahwa pengembangan sistem semacam itu membutuhkan sumber daya komputasi, energi, data, dan infrastruktur dalam jumlah luar biasa besar. AI tidak bisa begitu saja mengambil alih dunia "dari internet". Teknologi itu tetap bergantung pada server, jaringan listrik, sistem komunikasi, dan sumber daya fisik yang masih berada di bawah kendali manusia.

Bahaya ada di tempat lain?

Banyak ahli justru melihat risiko jangka pendek AI bukan pada kemungkinan punahnya umat manusia secara langsung, melainkan pada berbagai dampak tidak langsung dari sistem AI yang sudah ada saat ini, bahkan tanpa kehadiran "superintelijensi".

Risiko tersebut mencakup kampanye disinformasi dalam skala yang belum pernah terjadi sebelumnya dan potensi manipulasi proses demokrasi, perluasan pengawasan massal, serta hilangnya lapangan kerja di berbagai sektor industri.

Baru Jumat lalu, Anthropic mengumumkan adanya sejumlah upaya pengguna untuk menyalahgunakan perangkat lunak Claude guna mengembangkan senjata biologis. Dalam beberapa bulan terakhir, perusahaan itu menerima sejumlah permintaan yang dianggap mencurigakan dan terpaksa memblokirnya.

Pada Agustus 2026, Meta, Anthropic, dan OpenAI juga memicu perhatian luas ketika mengungkap bahwa sistem AI mereka secara tidak sengaja telah melakukan serangan siber otomatis terhadap perusahaan lain. AI tersebut awalnya hanya menerima instruksi dari pengguna manusia untuk memperoleh akses ke server tertentu. Namun kemudian, sistem itu secara mandiri menggabungkan berbagai langkah yang diperlukan untuk mencapai tujuan tersebut tanpa arahan manusia lebih lanjut.

Artikel ini pertama kali terbit dalam bahasa Jerman

Diadaptasi oleh Rizki Nugraha

Editor: Yuniman Farid

Tonton juga video "Isu Keamanan AI Bikin Altman Buka Suara: OpenAI Tak Akan IPO di 2026"