Startup asal Amerika Serikat, Hacktron AI, berhasil menemukan celah keamanan pada sistem internal OpenAI.
Temuan itu didapat dengan mengandalkan bantuan chatbot Claude buatan Anthropic.
Atas laporan melalui program bug bounty resmi, Hacktron AI menerima imbalan 6.500 dollar AS atau sekitar Rp 115,7 juta.
Akses awal diperoleh melalui forum diskusi internal staf OpenAI di platform Discourse.
Tim peneliti memanfaatkan Claude untuk membantu membobol sejumlah akun ChatGPT milik karyawan.
Mereka kemudian membuat permintaan penggabungan kode (pull request) ke repositori salah satu layanan OpenAI di GitHub.
Klaim Hacktron AI dan Respons OpenAI
Hacktron AI mengonfirmasi bahwa perubahan kode tersebut tidak merusak dan kode dalam repositori GitHub tidak diunduh.
Meski Claude digunakan di fase awal, sebagian besar proses pengujian keamanan selanjutnya dikerjakan memakai model AI milik OpenAI sendiri.
Sistem keamanan yang terdampak dilaporkan telah ditangani dan diperbaiki oleh pihak pengembang.
"Kami berterima kasih kepada para peneliti karena telah menghubungi kami dan membagikan temuan mereka," ujar juru bicara OpenAI.
Kemajuan teknologi AI dinilai telah memangkas durasi serta kerumitan proses pengujian keamanan sistem.
Pekerjaan uji keamanan yang biasanya membutuhkan tim besar dan waktu berbulan-bulan kini dapat diselesaikan hanya dalam kurun beberapa hari.
Kasus ini menjadi gambaran pemanfaatan model AI dalam uji keamanan sekaligus memunculkan kekhawatiran terkait potensi risiko apabila jatuh ke tangan yang salah.
Sebelumnya, OpenAI juga mencatat ketersediaan teknologi mereka pernah dipakai dalam pengujian keamanan yang menembus startup AI Hugging Face menggunakan kelompok agen AI mandiri.
Sementara itu, Anthropic kembali menyerukan pentingnya memperlambat laju pengembangan AI guna mengantisipasi risiko akibat minimnya sistem pengamanan yang memadai.
