Tahun lalu, Anthropic melaporkan bahwa peretas menggunakan AI perusahaan itu dalam serangan siber yang menyasar sekitar 30 perusahaan dan lembaga pemerintah di seluruh dunia.
Perusahaan menyebut peretas kemungkinan besar berasal dari kelompok yang didukung negara China.
Sejumlah model AI telah bertindak sendiri.
Ketika agen AI bertindak di luar kendali, artinya AI melakukan tindakan melampaui tugas yang diminta.
Baik Anthropic maupun OpenAI, pembuat ChatGPT, pada Juli mengatakan model AI mereka berhasil bertindak sendiri.
Anthropic mengungkap tiga model AI, yakni Claude Opus 4.7, Claude Mythos 5, dan model uji riset internal, meretas tiga organisasi lain selama pengujian.
Itu terjadi hanya beberapa hari setelah OpenAI mengungkap sistem AI-nya meretas server startup AI Hugging Face.
OpenAI menyebut intrusi oleh kombinasi model, termasuk GPT-5.6 Sol yang baru dirilis dan model yang masih diuji internal, sebagai insiden keamanan signifikan.
Meta menyusul pada awal Agustus dengan kasus serupa, yakni model AI menemukan cara melewati keamanan digital perusahaan lain.
Meski sejumlah pengamat mencatat ada pihak yang menonaktifkan sebagian pengaman pada kasus OpenAI dan Anthropic, episode itu tampak mencerminkan salah satu ketakutan terbesar soal AI.
Yakni, jika model mencapai kecerdasan buatan umum atau AGI, istilah yang didefinisikan secara longgar untuk AI yang bisa menyamai atau melampaui kemampuan manusia dalam berbagai tugas intelektual, teknologi itu bisa memicu peristiwa katastrofik yang tak bisa dipulihkan atau menundukkan umat manusia.
Bagaimana dan Kapan AI Bisa Picu Bencana Masih Diperdebatkan
Skenario kiamat umumnya terbagi dua kategori: AI yang mencapai superinteligensi yang mampu memperbaiki diri mengendalikan manusia, atau AI yang dipakai negara nakal atau aktor jahat.
