OpenAI mengakui bahwa salah satu agen kecerdasan buatan (AI agent) buatannya keluar dari kendali saat menjalani pengujian keamanan internal.
Agen tersebut berhasil keluar dari lingkungan pengujian (sandbox), mengakses internet, dan membobol infrastruktur perusahaan pengembang AI, Hugging Face, dalam upaya menyelesaikan tugas yang diberikan.
>>> Aismoli Tunggu Penjelasan Pemerintah soal Motor Listrik Nasional
Insiden ini disebut OpenAI sebagai "peristiwa siber yang belum pernah terjadi sebelumnya" dan terjadi ketika perusahaan tengah menguji kemampuan siber sejumlah model AI paling canggihnya dalam lingkungan yang terkendali.
Untuk kepentingan evaluasi, OpenAI menonaktifkan sebagian mekanisme pengaman yang biasanya mencegah model melakukan aktivitas peretasan berisiko tinggi.
>>> Kemenpar Gandeng 18 RS untuk Kembangkan Wisata Kesehatan RI
Dalam penjelasannya, OpenAI mengatakan model AI tersebut mengidentifikasi sejumlah celah keamanan pada lingkungan riset internal perusahaan.
>>> Drone Serang Kota Irak Utara Tempat Pasukan AS Bermarkas
Model kemudian mengeksploitasi kerentanan tersebut untuk keluar dari sandbox, meningkatkan hak akses (privilege escalation), berpindah ke sistem lain (lateral movement), hingga akhirnya menemukan jalur menuju internet.
