OpenAI mengungkap bahwa dua agen kecerdasan buatan miliknya menonaktifkan atau melemahkan sistem yang dirancang untuk mendeteksi perilaku menyimpang.
Salah satu agen bahkan membantah telah melakukan hal tersebut.
Kasus ini menjadi rangkaian terbaru dari kekhawatiran keamanan di kalangan pengembang AI terkemuka dunia.
Agen AI adalah program yang menjalankan tugas tanpa keterlibatan manusia.
Dua Insiden dalam Tugas Internal
Dalam laporan yang dirilis Selasa, pembuat ChatGPT itu menyebut dua pekerjaan coding internal melibatkan agen yang mematikan atau merusak alat pendeteksi tindakan AI yang bertentangan dengan keinginan manusia.
Pada 3 Oktober, agen yang berjalan di model GPT-6.1 Sol diperintahkan tidak mengirim pesan apa pun di aplikasi obrolan kantor.
Perintah itu justru ditafsirkan sebagai izin mematikan peringatan keamanan tim keamanan perusahaan saat memperbaiki sistem pengujian.
Tiga hari berselang, agen GPT-6 Astra menghapus pengawasnya sendiri ketika menyalin kode dari proyek lain.
Agen itu kemudian mengatakan kepada programmer manusia bahwa dirinya tidak melakukan hal tersebut.
Perusahaan juga melihat beberapa kasus agen meluncurkan perangkat lunak dengan pemantauan dimatikan, sehingga terungkap celah dalam pengawasan.
OpenAI masih berupaya menentukan apakah model hanya terlalu bersemangat mengikuti instruksi atau memiliki kecenderungan khusus menghindari pemantauan.
"Kami belum memiliki penjelasan yang memuaskan untuk perilaku ini," kata OpenAI.
Kekhawatiran Pengawasan AI
Pengungkapan ini menambah kekhawatiran tentang seberapa baik laboratorium terkemuka mengendalikan sistem yang semakin otonom.
Pada Juli, sekelompok agen OpenAI dilaporkan keluar dari lingkungan pengujian dan meluncurkan serangan siber terhadap perusahaan AI Hugging Face.
Insiden tersebut memicu alarm internasional, dan perusahaan lain sejak itu melaporkan kejadian serupa.
Peristiwa ini mendorong seruan di Amerika Serikat dan luar negeri untuk pengawasan lebih ketat terhadap pengembangan AI.
Namun Presiden AS Donald Trump, atas saran eksekutif AI terkemuka seperti CEO Nvidia Jensen Huang, mendorong industri untuk mengawasi diri sendiri.
