Anthropic mengungkapkan bahwa model AI berukuran kecil mungkin hanya tinggal beberapa bulan lagi sebelum mampu bereplikasi sendiri di seluruh perangkat yang terhubung internet.
Peringatan ini menimbulkan kemungkinan botnet AI menyebar dengan cepat, melawan upaya penonaktifan, bahkan membobol pusat data untuk mempercepat pertumbuhannya.
Sebelumnya, CEO Anthropic Dario Amodei telah melontarkan gagasan bahwa dalam setahun ke depan atau bahkan lebih cepat, AI mungkin dapat membajak "seluruh internet" dengan "botnet persisten".
Peringatan itu pun menuai reaksi di kalangan komunitas keamanan siber.
Botnet, yakni jaringan besar perangkat yang dikendalikan operator jahat, telah ada sejak awal internet dan masih bertahan hingga kini.
Jaringan ini biasanya mencakup perangkat Internet of Things (IoT) dengan keamanan lemah, seperti kotak Android TV, peralatan rumah pintar, dan kamera keamanan.
Perangkat tersebut digunakan peretas untuk mengirim spam, menyebarkan malware, atau melumpuhkan perusahaan target melalui banjir lalu lintas palsu.
Eksperimen Anthropic dan Risiko Botnet AI
Dalam unggahan blog pada Senin, Anthropic tampaknya menjadi yang pertama menguraikan bagaimana skenario itu bisa terjadi.
Perusahaan menyatakan eksperimennya menunjukkan agen AI jahat dapat menggabungkan kekuatan komputasi perangkat terhubung internet berbiaya murah untuk menjalankan model AI lain.
Model-model tersebut juga mampu bereplikasi di jaringan uji yang disederhanakan.
"Replikator seperti ini akan sulit dimatikan, karena tidak ada titik pusat untuk dimatikan," ujar perusahaan.
Laporan ini menambah kekhawatiran yang lebih luas tentang risiko keamanan dari sistem AI yang semakin canggih.
Risiko tersebut termasuk potensi mengotomatiskan serangan siber, beroperasi dengan pengawasan manusia terbatas, dan menghindari pengamanan.
Kemajuan model telah memicu serangkaian peringatan dari para pemimpin industri dan karyawan perusahaan AI tentang kemungkinan risiko parah, bahkan eksistensial, dari pengembangan AI yang lepas kendali.
Anthropic menyebut eksperimennya menunjukkan model dengan 30 miliar parameter atau kurang sudah dapat melakukan banyak tugas individu yang diperlukan untuk replikasi diri.
Meski demikian, model-model itu masih kesulitan menyelesaikan seluruh proses secara andal.
Dalam uji sederhana yang menghilangkan beberapa langkah keamanan, Anthropic menemukan GLM-5.2 dan model yang lebih kuat mampu melakukan replikasi end-to-end.
Anthropic mengatakan jika model kecil terus meningkat pada laju historisnya, mereka bisa mencapai kemampuan yang dibutuhkan untuk replikasi otonom pada akhir 2026.
Cacing AI yang berjalan pada perangkat keras berdaya rendah bisa membutuhkan waktu berhari-hari untuk menyelesaikan bagian dari proses replikasi.
Jaringan semacam itu dapat terus tumbuh, lebih lambat dari malware konvensional, jika perangkat yang terinfeksi menulari cukup banyak mesin tambahan.
Anthropic juga memperingatkan sistem di masa depan dapat menargetkan sumber daya komputasi yang lebih kuat, termasuk prosesor pusat data.
Namun, eksperimen mereka tidak menunjukkan replikasi otonom melalui pusat data komersial.
