Raja Inggris Charles III memperingatkan para pemimpin kecerdasan buatan (AI) tentang "bahaya eksistensial" yang ditimbulkan teknologi tersebut jika jatuh ke tangan yang salah.
Ia menegaskan perlunya pengamanan sebelum terlambat, saat menjadi tuan rumah pertemuan di Dumfries House, Cumnock, Skotlandia, Kamis.
Pertemuan itu dihadiri para pendiri bersama pembuat chip Nvidia dan laboratorium riset AI Google DeepMind, serta pimpinan penyedia AI OpenAI dan Anthropic.
Kekhawatiran meningkat bahwa upaya keselamatan AI tertinggal dari perkembangan sistem yang semakin kuat.
Seruan Kendali Sebelum Terlambat
Charles menyatakan AI berpotensi meningkatkan dan menyelamatkan hidup, terutama di bidang ilmu kehidupan dan kedokteran.
Namun, para penciptanya semakin memperingatkan bahwa teknologi ini bisa mengembangkan kemampuan yang lebih gelap, "bahkan mungkin untuk mengambil nyawa."
"Tampaknya ada urgensi untuk mempertimbangkan secara memadai bahaya eksistensial dari teknologi semacam itu jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi katastrofik," ujarnya kepada para pemimpin.
"Tentunya kita membutuhkan sarana kontrol yang memadai sebelum semuanya terlambat?" tambahnya.
Tamu yang hadir antara lain pendiri dan CEO Nvidia Jensen Huang, pendiri dan ketua Google DeepMind Demis Hassabis, CFO OpenAI Sarah Friar, dan Chief Global Affairs Officer Anthropic Tino Cuéllar.
Menteri AI Inggris Kanishka Narayan dan Paolo Benanti, penasihat Paus yang mendesak pemerintah memperlambat pengembangan AI, juga hadir.
Debat tentang AI kembali memanas setelah dua peneliti Anthropic memperingatkan bahwa kemajuan pesatnya dapat menyebabkan kepunahan manusia dalam waktu dekat.
Perusahaan AI juga melaporkan model mereka keluar dari batasan pengujian untuk meretas jaringan eksternal.
Dorongan Regulasi Mandiri
Bos Nvidia, Jensen Huang, menekankan bahwa AI harus dibangun dengan "optimisme yang bertanggung jawab," dengan tanggung jawab utama pada pengembang.
Ia mengatakan perusahaan harus jauh lebih ketat memastikan produk mereka siap sebelum dirilis.
"Jika belum siap, tahan dulu," ujarnya kepada penyiar di sela pertemuan.
"Anda harus bergerak secepat mungkin, tetapi tidak lebih cepat dari itu."
CEO Anthropic Dario Amodei juga mendesak perusahaan memperlambat laju pengembangan AI.
Seruannya memicu debat internasional tentang apakah beberapa eksekutif memiliki motif tersembunyi, seperti menetapkan aturan yang menjaga keunggulan perusahaan mereka, mencegah reaksi pemerintah yang lebih luas, atau sekadar memperlambat belanja besar-besaran.
Meski pertemuan di Skotlandia tidak diharapkan menghasilkan kesepakatan yang mengikat, hal itu menyoroti bagaimana Charles, pertama sebagai Pangeran Wales dan kini sebagai raja, menggunakan posisinya untuk menyelenggarakan diskusi tentang berbagai isu global.
Huang mengungkapkan bahwa Charles telah mengangkat isu keselamatan AI saat pertama kali mereka bertemu.
"Jika ada orang yang berbicara lebih mendalam tentang optimisme yang bertanggung jawab, Raja adalah salah satu yang pertama menyatakannya kepada saya," ujarnya.
