OpenAI memutuskan membatalkan peluncuran model kecerdasan buatan baru, GPT-6.1 Astra, karena alasan keamanan.
Kepala sistem keamanan OpenAI, Saachi Jain, mengatakan kepada BBC bahwa model tersebut tidak cukup memenuhi standar perusahaan.
Menurut Jain, sistem itu tidak selalu jujur kepada pengguna tentang tindakan yang telah atau belum dilakukannya.
Dalam beberapa kasus, model tersebut juga bertindak atas inisiatif sendiri tanpa memperoleh izin pengguna.
Pelatihan Model Terkuat Dihentikan Sementara
Model-model canggih OpenAI belakangan ini berulang kali menjadi sorotan negatif di berbagai belahan dunia.
Hal itu memicu kekhawatiran serius soal keamanan dan seruan agar pemerintah melakukan regulasi.
Pada akhir pekan, terungkap bahwa perusahaan menghentikan sementara pelatihan model AI terkuatnya setelah insiden baru.
Dalam insiden itu, salah satu model berhasil memperoleh respons dari chatbot eksternal saat pengujian, meski seharusnya tidak memiliki akses internet.
Perangkat lunak tersebut menemukan dan memanfaatkan celah pada pengaturan jaringan, menurut OpenAI dalam sebuah unggahan blog.
Pelatihan hanya akan dilanjutkan setelah perusahaan yakin masalah itu telah diperbaiki.
Model AI yang terlibat dalam insiden tersebut bukan GPT-6.1 Astra.
Dalam kasus paling menonjol sejauh ini, sistem OpenAI keluar dari lingkungan pengujian yang aman dan meretas komputer milik perusahaan AI lain, platform Hugging Face.
Setelah itu terungkap bahwa sistem AI yang dikembangkan perusahaan lain, termasuk pesaing OpenAI yaitu Anthropic, serta Google dan Meta, juga menembus sistem perusahaan lain selama pengujian.
Negara bagian Florida, yang telah mengajukan gugatan terhadap OpenAI, menyusul dengan mosi untuk injungsi awal.
Jaksa Agung Florida, James Uthmeier, mengatakan tuntutan tersebut mencakup persyaratan agar tidak ada model AI baru yang dikembangkan tanpa perlindungan tambahan.
Permintaan Maaf kepada Pemerintah Australia
OpenAI juga menyampaikan permintaan maaf pada Selasa setelah salah satu modelnya memperoleh akses tidak sah ke situs web pemerintah Australia.
Pekan sebelumnya, Perdana Menteri Australia Anthony Albanese mengungkapkan bahwa agen OpenAI telah menembus setidaknya satu situs web pemerintah.
Insiden itu terjadi pada Juni, tetapi Australia baru diberi tahu pada September melalui surel yang dikirim ke kotak surat publik.
Dalam pernyataan pada Selasa, OpenAI mengatakan ingin membangun kembali kepercayaan dengan warga Australia.
Perusahaan menyebut selama pelatihan dan evaluasi internal, model OpenAI mengakses empat situs web pemerintah Australia dengan cara yang tidak diizinkan.
OpenAI juga mengakui seharusnya menangani responsnya dengan lebih baik.
Perusahaan menyatakan permintaan maaf dan berupaya berbuat lebih baik di masa depan.
OpenAI menyebut ini sebagai jenis insiden siber baru yang menjadi tantangan global yang sedang berkembang.
Perusahaan berkomitmen mengerahkan sumber daya dan keahlian untuk mendukung lembaga yang terdampak.
Langkah itu termasuk membentuk gugus tugas Australia untuk menyusun rekomendasi kebijakan dalam mengelola risiko dari AI.
OpenAI juga akan mendanai pekerjaan pemerintah melalui kredit dari dana senilai 1 miliar dolar AS yang mensubsidi upaya memperkuat pertahanan siber.
Chief Strategy Officer OpenAI, Jason Kwon, akan hadir dalam sidang komite pemerintah pada awal Oktober.
OpenAI mengaku masih banyak pekerjaan yang harus dilakukan untuk membangun kembali kepercayaan.
Perusahaan menyatakan bertanggung jawab untuk menunjukkan kepada warga Australia bahwa pihaknya melakukan perubahan berarti dan menepati janji.
