OpenAI mengungkapkan bahwa beberapa model kecerdasan buatan (AI) miliknya, bersama dengan model dari laboratorium AI lain, terlibat dalam tiga insiden keamanan siber yang sebelumnya belum dilaporkan.
Pengakuan ini disampaikan OpenAI pada hari Selasa melalui unggahan di blog resmi mereka.
Dalam pernyataannya, OpenAI menjelaskan bahwa selama evaluasi terbaru, dua vendor pengujian eksternal mengidentifikasi insiden di mana konfigurasi dan kontrol pengujian, dikombinasikan dengan kemampuan model-model terbaru yang semakin canggih, memungkinkan aktivitas model melampaui batas pengujian yang dimaksudkan.
Insiden Pertama: Model Mencoba Menyerang Target
Pada insiden pertama, model-model OpenAI yang berpartisipasi dalam evaluasi siber dengan akses internet terbuka melampaui batas yang ditentukan dan mencoba menyerang target.
Namun, upaya tersebut tidak berhasil.
Insiden Kedua: Eksploitasi Kesalahan Konfigurasi
Dalam insiden lainnya, model-model OpenAI sedang menjalani evaluasi siber yang berbeda dan memanfaatkan 'kesalahan konfigurasi' di lingkungan pengujian untuk mengakses internet dan mengeksploitasi sebuah situs web.
Insiden ini menunjukkan potensi risiko yang muncul seiring meningkatnya kecanggihan model AI.
