Peringatan baru dari dalam industri kecerdasan buatan kembali menyalakan debat lama soal apakah AI canggih bisa lepas dari kendali manusia dan mengancam kelangsungan hidup umat manusia.
Debat itu juga menyoroti apakah perusahaan pengembang teknologi ini sudah melakukan cukup upaya untuk mencegah skenario tersebut.
CEO Anthropic, perusahaan di balik Claude, menilai industri perlu memperlambat laju kerja mereka.
Ia memperingatkan bahwa sekelompok agen AI bisa mengambil alih internet dalam enam bulan hingga satu tahun jika perusahaan tidak meluangkan lebih banyak waktu untuk menyiapkan pengamanan.
Dario Amodei memaparkan rencana bagi perusahaan seperti miliknya dan pemerintah di seluruh dunia untuk memastikan model AI yang makin canggih tetap selaras dengan perintah dan nilai orang-orang yang bertanggung jawab.
Pernyataan itu muncul beberapa hari setelah dua mantan peneliti keselamatan Anthropic secara terbuka menyuarakan kekhawatiran bahwa ancaman eksistensial AI terhadap manusia kurang mendapat perhatian.
Model AI Makin Kuat, Kekhawatiran Meningkat
Kekhawatiran atas risiko teknologi ini meningkat seiring munculnya model AI baru yang lebih kuat.
Kekuatan itu memperbesar potensi penyalahgunaan oleh orang dengan tujuan kriminal, seperti menciptakan dan menyebarkan penyakit yang membunuh sebagian besar populasi dunia, sekaligus risiko sistem AI bertindak di luar kendali secara berbahaya.
Anthropic mengungkap pekan lalu bahwa mereka memblokir upaya aktor jahat menggunakan model AI-nya untuk aktivitas berbahaya, seperti serangan siber, pengawasan, dan riset yang bisa mengarah pada senjata biologis.
Perusahaan itu menyatakan telah memasang pengamanan lebih kuat pada model terbarunya untuk membatasi riset biologis yang bisa dipakai membuat senjata.
Namun Anthropic mencatat bahwa seiring model makin canggih, risikonya akan meningkat kecuali pengembang AI dan pihak pembela masyarakat bertindak membuatnya lebih aman.
