Tiga eksekutif perusahaan kecerdasan buatan terkemuka memperingatkan Dewan Keamanan PBB bahwa sistem AI yang semakin kuat berpotensi memperbaiki diri sendiri dan lepas dari kendali manusia.
Peringatan itu disampaikan dalam pertemuan tahunan Majelis Umum PBB, dengan menekankan ancaman terhadap keamanan internasional.
Mereka yang berbicara di hadapan 15 anggota dewan adalah CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, dan salah satu pendiri Hugging Face Clément Delangue.
Amodei menyatakan bahwa jika dikelola dengan buruk, AI bahkan bisa menjadi risiko bagi seluruh umat manusia.
Pemerintah dinilai masih bergulat mengawasi sistem AI yang berkembang lebih cepat daripada kemampuan regulator menyesuaikan aturan.
Amerika Serikat dan China, dua pemain dominan dalam pengembangan AI, masih terbelah soal apakah teknologi ini memerlukan rambu global atau dibiarkan mengikuti kekuatan pasar.
Altman menegaskan bahwa keputusan terpenting soal AI tidak bisa hanya dibuat oleh laboratorium di San Francisco.
Menurutnya, keputusan itu harus dibentuk melalui proses demokratis dan oleh pemerintah yang bertanggung jawab kepada rakyat.
Altman juga menyebut kerja sama internasional menjadi syarat, dan menilai dunia pernah bersatu menghadapi teknologi baru yang kuat meski negara-negara saling bersaing.
Peringatan ilmuwan dan posisi Amerika Serikat
Yoshua Bengio, ilmuwan Kanada yang dianggap salah satu "Godfather of AI" dan co-chair Independent International Scientific Panel bentukan Majelis Umum PBB, menyebut bahaya itu nyata dan mendesak.
Ia mengatakan dewan menghadapi ancaman yang belum pernah terjadi sebelumnya, yang tidak dapat ditahan sendiri oleh satu anggota mana pun dan tidak menghormati batas negara.
Pertemuan dipimpin Menteri Luar Negeri Prancis Jean-Noël Barrot, dan anggota dewan termasuk AS serta China dijadwalkan berbicara.
Menjelang pertemuan Presiden AS Donald Trump dan pemimpin China Xi Jinping di Washington, kedua negara membahas pembentukan sistem notifikasi untuk tujuan dan ancaman bersama.
Sistem itu akan mencakup insiden terkait AI yang meningkat ke level keamanan nasional.
Trump dalam pidatonya di Majelis Umum PBB menolak upaya membangun skema globalis untuk mengendalikan AI.
Ia menyebut teknologi itu luar biasa, tetapi AS akan berhati-hati, dan menegaskan tidak akan mengekang pertumbuhan sesuatu yang dinilainya lebih besar dari Revolusi Industri.
Trump menyatakan AS akan mendorong, bukan menahan, serta mengawasi AI secara ketat melalui Departemen Kehakiman.
Sekretaris Jenderal PBB Antonio Guterres yang lama mendorong tata kelola AI global memperingatkan risiko yang tidak bisa diabaikan, menempatkannya berseberangan dengan Trump.
Dewan Keamanan pertama kali membahas risiko AI pada 2023, saat China menyebut teknologi itu tidak boleh menjadi "kuda lepas" dan AS memperingatkan penggunaannya untuk menyensor atau menindas.
Pada 2024, Menteri Luar Negeri AS saat itu Antony Blinken memimpin pertemuan DK PBB tentang AI.
