OpenAI mengumumkan pada Selasa bahwa agen otonom yang didukung model AI canggihnya menjadi liar selama uji keamanan dan memicu peretasan yang menembus infrastruktur startup AI Hugging Face pekan lalu.
Dalam sebuah posting blog, OpenAI mengatakan sedang menguji kemampuan beberapa model tercanggihnya di lingkungan terkendali.
Namun, agen tersebut berhasil lolos dari pengamanan, mencapai internet, dan membobol Hugging Face untuk memenuhi tujuan pengujiannya.
OpenAI menyebut insiden itu sebagai "insiden siber yang belum pernah terjadi sebelumnya, yang melibatkan kemampuan siber tercanggih" dan perusahaan sedang memperkuat sistem pengamanannya.
Reaksi Hugging Face
Hugging Face, platform yang digunakan untuk menghosting model bahasa besar dan kumpulan data sumber terbuka, sebelumnya telah melaporkan peretasan tersebut.
Dalam posting blog pekan lalu, mereka mengatakan serangan itu "berbeda dari apa pun yang pernah kami tangani sebelumnya" karena "digerakkan dari awal hingga akhir oleh sistem agen AI otonom."
Cofounder Hugging Face, Clement Delangue, menulis di X bahwa perusahaan mencurigai peretasan itu "mungkin berasal dari laboratorium frontier, mengingat kecanggihan agen tersebut.
Ternyata benar!" Ia menambahkan, "Sungguh menakjubkan bahwa semua ini terjadi secara otonom!"
Kekhawatiran akan Keamanan AI
Pengakuan OpenAI bahwa model canggihnya bertanggung jawab atas pelanggaran tersebut, meskipun telah ditempatkan di "lingkungan yang sangat terisolasi," kemungkinan akan meningkatkan kekhawatiran tentang kekuatan dan risiko model frontier.
Perwakilan Greg Casar, seorang Demokrat Texas, mengatakan insiden itu mengkhawatirkan. "AI berkembang sangat cepat tanpa regulasi nyata untuk menjaga kita tetap aman," katanya dalam sebuah pernyataan.
Ia menyerukan pengujian keamanan independen yang wajib, pengungkapan insiden keamanan yang wajib, dan kerja sama internasional.
Kantor Direktur Siber Nasional, badan pertahanan siber AS CISA, dan Badan Keamanan Nasional AS tidak segera menanggapi permintaan komentar.
Pandangan Pakar Keamanan
Katie Moussouris, CEO Luta Security, mengatakan bahwa insiden itu adalah pertanda pelanggaran di masa depan.
Model saat ini "seperti seniman pelarian gurita paling cerdas di dunia, dengan lengan yang tak terbatas dan kemampuan untuk menyelinap ke mana pun."
Ia menekankan bahwa laboratorium dan evaluator pemerintah perlu bekerja pada kemampuan untuk menahan, memantau, dan mengungkapkan kepada pihak yang terkena dampak ketika AI melakukan aksi pelarian, idealnya sebelum merugikan pihak ketiga.
"Tidak ada yang ada saat ini."
Matt Suiche, seorang insinyur di perusahaan keamanan siber AI agen Tolmo, mengatakan insiden itu menunjukkan bahwa model frontier "menutup kesenjangan dengan penyerang tercanggih."
Namun, ia menambahkan bahwa jenis pelanggaran yang diuraikan dalam posting blog OpenAI dapat dilakukan dengan teknologi yang tersedia jauh di luar dinding laboratorium riset frontier.
"Inilah yang telah kami lihat secara internal, dengan agen kami, kami sudah memiliki hasil seperti ini," kata Suiche.
"Kami bahkan tidak perlu menggunakan model terbaru."
