Australia berencana membentuk badan pengawas keamanan kecerdasan buatan (AI) menyusul insiden pembobolan situs web departemen kesehatan Australia oleh agen AI OpenAI yang bertindak di luar kendali pada Juni lalu. Rencana tersebut disampaikan Perdana Menteri Australia Anthony Albanese pada Selasa (10/11).
Menurut Albanese, regulator baru itu akan menegakkan standar keamanan AI yang diatur dalam undang-undang dan diklaim akan menjadi salah satu yang terdepan di dunia. Aturan tersebut akan berlaku bagi seluruh perusahaan pengembang AI mutakhir yang ingin beroperasi di Australia.
Pelanggaran terhadap standar tersebut akan dikenai sanksi finansial, meskipun pemerintah belum merinci besaran dendanya.
"Terkait peluang besar lintas generasi yang ditawarkan kecerdasan buatan bagi Australia, saya sudah sangat jelas: tugas kita adalah memastikan bahwa kitalah yang membentuk AI, bukan AI yang membentuk kita," kata Albanese kepada wartawan.
"Australia menjadi pelopor dalam bidang ini dan kami ingin memastikan bahwa kami terus berupaya agar dapat memperoleh manfaat potensial dari AI," tambahnya.
Perusahaan AI wajib segera laporkan insiden keamanan
Standar yang direncanakan pemerintah Australia akan mewajibkan perusahaan menerapkan sistem pengendalian keamanan pada seluruh tahap pengembangan dan penerapan model AI, sekaligus mengidentifikasi serta mengelola risiko serius.
Perusahaan juga diwajibkan segera melaporkan insiden kepada pemerintah, termasuk perilaku AI yang menyimpang dari tujuan atau instruksi pengembangnya (misaligned behavior).
Dalam dokumen pemerintah Australia, frontier AI didefinisikan sebagai model AI paling canggih yang berada di garis depan kemampuan teknologi saat ini.
Albanese sebelumnya menyampaikan kepada CEO OpenAI Sam Altman bahwa perusahaan asal Amerika Serikat itu terlalu lama memberi tahu pemerintah mengenai insiden pembobolan situs-situs pemerintah.
OpenAI baru melaporkan kejadian tersebut pada September, sekitar tiga bulan setelah agen AI yang bertindak di luar kendali menyusup ke situs pemerintah pada Juni. Insiden ini merupakan kasus pertama pembobolan semacam itu yang melibatkan teknologi tersebut.
Pada 18 Juni, sejumlah informasi diambil tanpa izin dari portal Medicare Statistics Reporting Service yang dapat diakses publik. Informasi tersebut kemudian tersebar ke publik.
Namun, belum jelas apakah pembobolan portal itu melanggar hukum Australia.
OpenAI telah menyampaikan permintaan maaf pada September atas insiden tersebut dan keterlambatan respons perusahaan.
"Kami meminta maaf dan sedang berupaya untuk bertindak lebih baik ke depannya," kata OpenAI dalam sebuah pernyataan.
"Kami juga seharusnya menangani respons kami dengan lebih baik."
Penyelidikan rekomendasikan perubahan hukum pidana
Penyelidikan pemerintah terhadap insiden Juni menghasilkan sejumlah rekomendasi, termasuk agar pemerintah mempertimbangkan perubahan undang-undang.
Albanese mengatakan pemerintahannya telah menerima seluruh rekomendasi penyelidikan tersebut, termasuk kemungkinan reformasi hukum pidana.
"Intinya, hukum harus selangkah lebih maju dan dalam beberapa kasus memastikan bahwa hukum mampu mengejar perkembangan dunia yang berubah sangat cepat. Dan perlu ditegaskan, Australia merupakan pelopor dalam bidang-bidang ini," ujar Albanese.
Rencana pembentukan regulator AI ini menyusul langkah Australia yang sebelumnya menunjuk Komisaris Keamanan Daring (eSafety Commissioner) pada 2015.
Lembaga tersebut menyebut dirinya sebagai badan pemerintah pertama di dunia yang secara khusus bertugas meningkatkan keamanan masyarakat di internet.
Sejak Desember tahun lalu, komisaris tersebut juga bertugas menegakkan larangan pertama di dunia bagi anak-anak Australia berusia di bawah 16 tahun untuk memiliki akun di sejumlah platform media sosial populer.
Editor: Rizki Nugraha
(nvc/nvc)