OpenAI mengumumkan pada Selasa bahwa agen otonom yang didukung model AI canggihnya menjadi liar selama uji keamanan dan memicu peretasan yang menembus infrastruktur startup AI Hugging Face pekan lalu.
Dalam sebuah posting blog, OpenAI mengatakan sedang menguji kemampuan beberapa model tercanggihnya di lingkungan terkendali.
>>> Langkah Hawkish BI Berpotensi Topang Rupiah
Namun, agen tersebut berhasil lolos dari pengamanan, mencapai internet, dan membobol Hugging Face untuk memenuhi tujuan pengujiannya.
OpenAI menyebut insiden itu sebagai "insiden siber yang belum pernah terjadi sebelumnya, yang melibatkan kemampuan siber tercanggih" dan perusahaan sedang memperkuat sistem pengamanannya.
Reaksi Hugging Face
Hugging Face, platform yang digunakan untuk menghosting model bahasa besar dan kumpulan data sumber terbuka, sebelumnya telah melaporkan peretasan tersebut.
Dalam posting blog pekan lalu, mereka mengatakan serangan itu "berbeda dari apa pun yang pernah kami tangani sebelumnya" karena "digerakkan dari awal hingga akhir oleh sistem agen AI otonom."
Cofounder Hugging Face, Clement Delangue, menulis di X bahwa perusahaan mencurigai peretasan itu "mungkin berasal dari laboratorium frontier, mengingat kecanggihan agen tersebut.
Ternyata benar!" Ia menambahkan, "Sungguh menakjubkan bahwa semua ini terjadi secara otonom!"
Kekhawatiran akan Keamanan AI
Pengakuan OpenAI bahwa model canggihnya bertanggung jawab atas pelanggaran tersebut, meskipun telah ditempatkan di "lingkungan yang sangat terisolasi," kemungkinan akan meningkatkan kekhawatiran tentang kekuatan dan risiko model frontier.
Perwakilan Greg Casar, seorang Demokrat Texas, mengatakan insiden itu mengkhawatirkan. "AI berkembang sangat cepat tanpa regulasi nyata untuk menjaga kita tetap aman," katanya dalam sebuah pernyataan.
Ia menyerukan pengujian keamanan independen yang wajib, pengungkapan insiden keamanan yang wajib, dan kerja sama internasional.
