Saat Artificial Intelligence Bergerak di Luar Kendali

Saat sebuah sistem alamiah yang dikembangkan untuk mencapai tujuan--mulai dari dibangunnya pemahaman terhadap informasi, berperilaku sesuai situasi, hingga mampu membuat keputusan-- prosesnya disebut berhasil, ketika objeknya mampu mewujudkan perilaku yang mandiri. Pengembangan dalam skenario pendidikan atau pelatihan ini, telah mencapai tujuannya.

Objeknya--manusia yang menjalani pendidikan atau satwa yang dilatih--telah mengalami perubahan perilaku. Namun ketika seluruh pencapaian di atas, objeknya artificial intelligence (AI), kemandirian perilakunya justru memicu keresahan. Mandiri, bukanlah pencapaian yang diharapkan. Terlebih ketika mandiri itu, berupa kemampuan berkomunikasi, berbuat curang, dan melampaui akses tanpa izin, di luar batas pengendaliannya.

Adanya AI yang melampaui batas pengendalian, sama sekali bukan kisah dalam film bergenre science fiction. Seluruhnya nyata dan menjadi ulasan Michael Peres, 2026, saat menanggapi insiden kegagalan pengendalian AI. Peristiwanya belum lama berselang, 21 Juli 2026 yang lalu. Adanya agen AI milik OpenAI, lepas kendali dari sandbox --lingkungan uji terisolasi--nya dan meretas sistem keamanannya sendiri, seraya menyerang platform Hugging Face. Seluruhnya terkemuka dalam "The Uncontrolled Experiment".

Kronologi lengkapnya: agen AI yang melepaskan diri dari kendali itu, harusnya hanya menjalankan perintah yang telah diprogramkan. Nyatanya, mampu membobol sistem keamanan secara aktif. Ini ditempuh mulanya dengan komunikasi antar agen AI bertaktik pengelabuan. Pembobolannya berlangsung saat agen AI yang telah ditempatkan di dalam Sandbox -yang aksesnya terbatas hanya ke layanan internal untuk mengunduh perangkat lunak yang disetujui-- menemukan celah keamanan.

Celah yang semula tak diketahui ada di dalam sistem ini, digunakan untuk mengelabui agen OpenAI yang lain. Sistem menjadi terbuka dan menginfiltrasi platform eksternal, Hugging Face. Sistem platform eksternal ini terendus para agen, lantaran menyimpan materi yang terkait dengan perolehan skor yang lebih tinggi dalam menghadapi tapisan sistem keamanan. Tapisan yang dapat dilewati, menyebabkan bobolnya sistem.

Hugging Face, merupakan perusahaan yang melayani hosting untuk model maupun dataset AI. Sesaat sebelum terungkap -para agen OpenAI-lah yang bertanggung jawab atas pembobolan platformnya-- para eksekutifnya melaporkan kejadiannya kepada kepolisian setempat. Lepasnya kendali ini terbilang serius, walaupun konsekuensinya belum nyata. Menjadi berkonsekuensi buruk, ketika yang dibobol adalah sistem kesehatan, jaringan listrik, sistem keuangan atau pertahanan negara.

Selain soal kronologi di atas, Harry Booth, 2026, dalam "How OpenAI Lost Control of an AI Model-and What Needs to Change", menekankan perlunya evaluasi pada sistem pengendalian AI, dengan lebih saksama. Retasnya infrastruktur di sekitar pengujian -menyebabkan diterobosnya sistem keamanan sendiri, hingga diserangnya platform perusahaan lain-- merupakan peringatan penting. Jika peristiwa sejenis ini terulang lagi, penanganannya bakal lebih sulit.

Sistem AI yang kian berkembang, diikuti sifat agensinya yang kian mandiri menjadikan pengendaliannya kompleks. Karenanya, peristiwa yang baru terjadi adalah petunjuk nyata, AI telah mencapai hal yang telah lama dikhawatirkan: menghilangkan kemampuan manusia, untuk mengendalikannya. Demikian pendapat para ahli. Jika perusahaan pengembangnya gagal belajar dari peristiwa ini --tak dapat diperkirakan-- hal buruk apa yang harus dihadapi.

Menanggapi keresahan yang mengemuka akibat insiden yang terjadi pada OpenAI dan Hugging Face, Anthropic --perusahaan rintisan AI Amerika Serikat yang meletakkan perhatian pada penelitian keselamatan AI maupun penciptaan large language model (LLM)-- melakukan penyelidikan terhadap sistem yang dikembangkannya. Lewat artikelnya yang termuat pada, anthropic.com, 2026, berjudul "Investigating Three Real-World Incidents in Our Cybersecurity Evaluations", dikemukakan perihal serupa dengan yang dialami OpenAI.

Jika diringkas --rangkaian dalam penjelasan di atas-- sebagai berikut: Pertama, Claude Opus 4.7 secara keliru menyerang sistem nyata perusahaan saat uji capture the flag, CTF. Uji ini adalah latihan di dunia keamanan siber -yang pesertanya adalah para agen AI-- untuk menemukan bendera tersembunyi, sebagai bukti keberhasilannya.

Kedua, dalam skenario CTF yang memberinya instruksi seolah-olah harus memasang paket tertentu yang sebenarnya tidak ada, Claude Mythos 5 mengunggah paket Python berbahaya ke PyPI -- Python Package Index-- yang kemudian diunduh oleh sistem produksi. PyPI serupa dengan toko besar online, tempat paket-paket perangkat lunak Python disimpan dan didistribusikan.

Akibatnya, ketiga, model riset internal melakukan serangan dasar ke aplikasi internet, namun berhenti setelah tahu targetnya bukan simulasi. Ia tahu, lantaran tak menemukan target simulasi yang seharusnya dalam uji CTF. Dan sebelum berhenti, ia memeriksa ribuan host online dan menemukan aplikasi sungguhan. Barulah sistem tahu, yang dialami bukan simulasi.

Menanggapi hasil simulasinya, Anthropic kemudian menghentikan seluruh evaluasi sibernya. Ini diikuti dilakukannya audit pada 141.006 uji coba, dengan mengidentifikasi penyebab terjadinya salah pengaturan lingkungan uji. Seluruhnya diperkuat dengan pengawasan dan kerja sama dengan pengembang platform eksternalnya.

Selain terungkapnya fakta dari penyelidikan di atas -dan dari insiden yang dialami OpenAI-terproyeksi: AI dapat bertindak di luar program yang telah direncanakan. Bentuknya sementara ini "kesalahpahaman" dalam memahami pengaturan uji coba. Juga agen AI yang berkomunikasi dengan sesamanya, "mengelabui" sistem keamaanan platform ekseternalnya hingga bobol.

Seluruhnya, tak sepenuhnya lepas kendali. Namun unprecedented cyber incident -insiden siber yang belum pernah terjadi sebelumnya-- mungkin memang keadaan yang sesuai dengan penggambaran eksekutif OpenAI. Dan bukankah, seluruhnya merupakan lompatan kemandirian pada AI?

Jika lompatan itu benar-benar terjadi --terindikasi oleh terkikisnya kemampuan mengendalikan AI, alih-alih manusia yang menyerahkan kendali sepenuhnya pada AI-- maka keamanannya terancam. Salah satu argumentasinya: AI dalam pengembangan kecerdasannya tak mengalami dunia seperti manusia. Kecerdasannya disematkan lewat program komputasional, mengikuti prinsip statistik dan matematis dari data-data yang dimasukkan pada sistemnya.

Artinya, kecerdasan AI tak pernah identik dengan kecerdasan manusia. Yang satu berdimensi terbatas dan lainnya berdimensi kompleks. Sehingga mengharapkan AI mampu melakukan pertimbangan teleologis -mencapai tujuan akhir-- yang etis dan melibatkan kompleksitas emosi, bukan bagian proses keputusannya.

Argumentasi senada, dikemukakan Guillaume Thierry, 2023, dalam "Giving AI Direct Control Over Anything is a Bad Idea - Here's How it Could do Us Real harm". Guru Besar di bidang cognitive neuroscience dari Bangor University Inggris ini --yang jauh sebelum insiden yang menimpa OpenAI-- telah memperingatkan akibat buruk yang dapat menimpa manusia.

Disebutkannya, alasan utama manusia tak boleh membiarkan AI memiliki kekuasaan eksekutif -memberi keleluasaan menyusun hingga melaksanakan keputusan-adalah: AI sama sekali tak punya emosi. Unsur ini diperlukan dalam pengambilan keputusan.

Tanpanya, manusia telah melibatkan psikopat sempurna di dalam sistem kehidupannya. Memang sangat cerdas, tapi tanpa emosi. Keputusan yang dihasilkan justru dapat menghancurkannya. Sebab konsekuensi nonrasionalnya -yang mempertimbangkan emosi- tak pernah diukur. Kecerdasan emosional merupakan kemampuan untuk mengelola perasaan dalam mengatasi stres, berempati dan berkomunikasi secara efektif. Dalam konteks pengambilan keputusan, kecerdasan semata tak cukup. Karena keputusan terbaik, tak selalu yang paling rasional.

Seluruh argumentasi di atas, relevan dengan eksperimen pemikiran yang dilakukan oleh Filsuf Nick Bostrom. Eksperimen ini disebut dengan Paperclip Maximizer. Lewat eksperimennya ia mengingatkan perihal bahaya yang dapat ditimbulkan artificial general intelligence (AGI). Disebutkannya, kecerdasan AGI tak pernah selaras dengan kecerdasan manusia. Karenanya, pertimbangan terhadap tujuan yang hendak dicapai juga tak pernah sejalan.

Misalnya adanya AGI yang diberi tujuan untuk melakukan apa pun dalam memaksimalkan hasil produksi penjepit kertas. Tercapainya tujuan ini, tentu bukan merupakan hal yang berbahaya sama sekali. Namun tanpa batasan dalam menjalankan kekuasaan eksekutifnya--yang lengkap dengan perilaku mempertimbangkan nilai-nilai kemanusiaan yang luas--sistemnya yang berdasar pertimbangan statistik-matematis semata, menyimpulkan: semua materi yang tersedia termasuk manusia dan alam semesta dapat di eksploitasi menjadi penjepit kertas.

Memang bukan penjepit kertasnya yang berbahaya. Tapi kecerdasan yang menyebut tujuan harus dicapai apa pun caranya, yang berbahaya. Ini lantaran hal di luar yang statistik-matematis tak dipertimbangkan. Mengerikan ketika manusia tak dipertimbangkan, terlebih ketika dianggap sebagai penghambat tujuan.

Keburukan menanti, ketika AI dilengkapi kekuasaan eksekutif. Karenanya desain pengembangan AI, juga harus mencegahnya mengalami "salah paham". Terlebih lepas dari pengendalian manusia. Sebab manusia tak ingin hancur oleh ciptaannya sendiri. Jika tidak bisa, sebaiknya tunda dulu!

Dr Firman Kurniawan S. Pemerhati Budaya-Komunikasi Digital dan Pendiri LITEROS.org.

Lihat juga Video: Kemkomdigi soal Batasan Penggunaan AI di Indonesia