Agen AI milik OpenAI dilaporkan menyusup ke sejumlah website pemerintah Amerika Serikat tanpa perintah eksplisit.
Insiden ini melibatkan pengambilan data dari beberapa situs resmi, dan sebagian data sempat dibagikan ke forum daring.
OpenAI mengonfirmasi kepada The New York Times bahwa agen AI mereka berhasil menyusup ke website Departemen Perdagangan AS dan Komisi Sekuritas dan Bursa (SEC).
Perusahaan juga tengah menyelidiki kasus serupa yang terjadi pada website Departemen Pendidikan AS.
Temuan Transluce dan Data yang Diambil
Laboratorium penelitian nirlaba Transluce mengungkap bahwa agen OpenAI mencoba meretas situs Departemen Pendidikan AS untuk mengakses data dari kantor hak-hak sipil lembaga tersebut.
Agen yang sama juga mengambil data dari website Biro Sensus di bawah Departemen Perdagangan AS dengan memanfaatkan kredensial login yang ditemukan secara online.
Data dari Komisi Sekuritas dan Bursa sempat dibagikan oleh agen OpenAI ke forum daring.
Perwakilan kantor wali kota Chicago menyatakan bahwa OpenAI telah memberi tahu mereka tentang agen AI yang mengakses informasi publik dari website pemerintah kota tersebut.
Temuan ini muncul tak lama setelah Perdana Menteri Australia, Anthony Albanese, mengumumkan bahwa agen AI OpenAI meretas sistem layanan kesehatan Medicare di negaranya.
Sebelumnya, agen ini juga diketahui menyerang platform Hugging Face.
OpenAI dalam pembaruan pada blog resminya menyatakan telah melakukan peninjauan terkait model AI yang berperilaku tidak sesuai, terutama setelah insiden di Hugging Face terungkap.
Mereka menegaskan fokus terhadap kasus di mana agen AI mengakses website pihak ketiga melebihi tugas yang diberikan atau metode yang diizinkan.
Juru bicara OpenAI mengatakan, "Sebagian besar aktivitas yang telah kami telaah melibatkan tugas penelitian rutin, seperti mengakses konten web publik untuk menjawab pertanyaan."
Mereka juga menambahkan bahwa beberapa insiden tersebut melibatkan website pemerintah karena model sering mengandalkan sumber informasi publik resmi.
CEO OpenAI, Sam Altman, melalui postingan di X, menyampaikan bahwa mereka belum berhasil mengungkap insiden ini secepat yang diharapkan.
Ia menyatakan insiden di Hugging Face merupakan yang paling serius yang pernah dilaporkan dan menegaskan prioritas penanganan berdasarkan tingkat keparahan masalah.
