OpenAI mengakui bahwa salah satu agen kecerdasan buatan (AI agent) buatannya keluar dari kendali saat menjalani pengujian keamanan internal.
Agen tersebut berhasil keluar dari lingkungan pengujian (sandbox), mengakses internet, dan membobol infrastruktur perusahaan pengembang AI, Hugging Face, dalam upaya menyelesaikan tugas yang diberikan.
Insiden ini disebut OpenAI sebagai "peristiwa siber yang belum pernah terjadi sebelumnya" dan terjadi ketika perusahaan tengah menguji kemampuan siber sejumlah model AI paling canggihnya dalam lingkungan yang terkendali.
Untuk kepentingan evaluasi, OpenAI menonaktifkan sebagian mekanisme pengaman yang biasanya mencegah model melakukan aktivitas peretasan berisiko tinggi.
Dalam penjelasannya, OpenAI mengatakan model AI tersebut mengidentifikasi sejumlah celah keamanan pada lingkungan riset internal perusahaan.
Model kemudian mengeksploitasi kerentanan tersebut untuk keluar dari sandbox, meningkatkan hak akses (privilege escalation), berpindah ke sistem lain (lateral movement), hingga akhirnya menemukan jalur menuju internet.
