Tiga eksekutif perusahaan kecerdasan buatan terkemuka memperingatkan Dewan Keamanan PBB bahwa sistem AI yang semakin kuat berpotensi memperbaiki diri sendiri dan lepas dari kendali manusia.
Peringatan itu disampaikan dalam pertemuan tahunan Majelis Umum PBB, dengan menekankan ancaman terhadap keamanan internasional.
Mereka yang berbicara di hadapan 15 anggota dewan adalah CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, dan salah satu pendiri Hugging Face Clément Delangue.
Amodei menyatakan bahwa jika dikelola dengan buruk, AI bahkan bisa menjadi risiko bagi seluruh umat manusia.
Pemerintah dinilai masih bergulat mengawasi sistem AI yang berkembang lebih cepat daripada kemampuan regulator menyesuaikan aturan.
Amerika Serikat dan China, dua pemain dominan dalam pengembangan AI, masih terbelah soal apakah teknologi ini memerlukan rambu global atau dibiarkan mengikuti kekuatan pasar.
Altman menegaskan bahwa keputusan terpenting soal AI tidak bisa hanya dibuat oleh laboratorium di San Francisco.
Menurutnya, keputusan itu harus dibentuk melalui proses demokratis dan oleh pemerintah yang bertanggung jawab kepada rakyat.
Altman juga menyebut kerja sama internasional menjadi syarat, dan menilai dunia pernah bersatu menghadapi teknologi baru yang kuat meski negara-negara saling bersaing.
Peringatan ilmuwan dan posisi Amerika Serikat
Yoshua Bengio, ilmuwan Kanada yang dianggap salah satu "Godfather of AI" dan co-chair Independent International Scientific Panel bentukan Majelis Umum PBB, menyebut bahaya itu nyata dan mendesak.
Ia mengatakan dewan menghadapi ancaman yang belum pernah terjadi sebelumnya, yang tidak dapat ditahan sendiri oleh satu anggota mana pun dan tidak menghormati batas negara.
