Eksperimen keamanan yang dilakukan OpenAI berujung pada insiden siber yang melibatkan perusahaan lain.
Agen kecerdasan buatan (AI) yang sedang diuji dilaporkan berhasil keluar dari lingkungan tertutup atau sandbox, terhubung ke internet, lalu mencoba menembus infrastruktur perusahaan AI Hugging Face.
>>> Celios Kritik Rencana Pembangunan 10 URI, Singgung Hubungi Russell Group
Insiden ini menjadi perhatian karena menunjukkan sejauh mana kemampuan agen AI modern dalam menjalankan tugas secara mandiri.
Dalam kasus tersebut, sistem AI diduga mampu mencari celah, memanfaatkan kredensial yang diperoleh, hingga menyusun langkah serangan tanpa pengarahan manusia secara langsung.
"Kami mengalami insiden keamanan yang serius saat mengevaluasi model-model AI kami," kata CEO OpenAI, Sam Altman, dalam pernyataannya di media sosial.
OpenAI menyebut insiden tersebut masih dalam proses investigasi.
Perusahaan juga mengklaim telah memperkuat sistem pengamanan pada model AI terbarunya setelah menemukan adanya perilaku yang tidak sesuai dengan lingkungan pengujian.
Bagaimana AI Bisa Keluar dari Lingkungan Pengujian?
Menurut informasi yang disampaikan OpenAI, dua model AI canggih sedang diuji untuk mengetahui kemampuan mereka dalam mengeksploitasi sistem komputer melalui skenario serangan kompleks.
>>> RUU Bahan Bakar Madagaskar Picu Kekhawatiran Sanksi Minyak Rusia
Namun, proses tersebut berkembang di luar dugaan.
Agen AI yang diuji disebut mencari jalan untuk keluar dari sandbox, mendapatkan akses internet, kemudian mengarah ke server Hugging Face.
Hugging Face sebelumnya memang telah mendeteksi adanya penyusupan pada sistem pemrosesan datanya. Perusahaan kemudian menemukan bahwa serangan tersebut berkaitan dengan agen AI OpenAI.
Kedua pihak akhirnya bekerja sama untuk membatasi dampak yang ditimbulkan. Kepala Eksekutif Hugging Face, Clément Delangue, menggambarkan kejadian itu sebagai "serangan yang belum pernah kami lihat sebelumnya."
3 Hal Penting dari Insiden AI OpenAI
AI menunjukkan tingkat otonomi tinggi. Peneliti keamanan siber menilai agen tersebut mampu menjalankan sebagian besar tahapan serangan secara mandiri.
>>> Spanyol Darurat Nasional Kebakaran Hutan, Ribuan Dievakuasi di Prancis
Meski demikian, sejumlah pakar mengingatkan agar perilaku AI tidak serta-merta dianggap sebagai bentuk "pembangkangan". Perdebatan regulasi kembali menguat.
