Raja Inggris Charles III memperingatkan para pemimpin kecerdasan buatan (AI) tentang "bahaya eksistensial" yang ditimbulkan teknologi tersebut jika jatuh ke tangan yang salah.
Ia menegaskan perlunya pengamanan sebelum terlambat, saat menjadi tuan rumah pertemuan di Dumfries House, Cumnock, Skotlandia, Kamis.
Pertemuan itu dihadiri para pendiri bersama pembuat chip Nvidia dan laboratorium riset AI Google DeepMind, serta pimpinan penyedia AI OpenAI dan Anthropic.
Kekhawatiran meningkat bahwa upaya keselamatan AI tertinggal dari perkembangan sistem yang semakin kuat.
Seruan Kendali Sebelum Terlambat
Charles menyatakan AI berpotensi meningkatkan dan menyelamatkan hidup, terutama di bidang ilmu kehidupan dan kedokteran.
Namun, para penciptanya semakin memperingatkan bahwa teknologi ini bisa mengembangkan kemampuan yang lebih gelap, "bahkan mungkin untuk mengambil nyawa."
"Tampaknya ada urgensi untuk mempertimbangkan secara memadai bahaya eksistensial dari teknologi semacam itu jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi katastrofik," ujarnya kepada para pemimpin.
"Tentunya kita membutuhkan sarana kontrol yang memadai sebelum semuanya terlambat?" tambahnya.
Tamu yang hadir antara lain pendiri dan CEO Nvidia Jensen Huang, pendiri dan ketua Google DeepMind Demis Hassabis, CFO OpenAI Sarah Friar, dan Chief Global Affairs Officer Anthropic Tino Cuéllar.
Menteri AI Inggris Kanishka Narayan dan Paolo Benanti, penasihat Paus yang mendesak pemerintah memperlambat pengembangan AI, juga hadir.
Debat tentang AI kembali memanas setelah dua peneliti Anthropic memperingatkan bahwa kemajuan pesatnya dapat menyebabkan kepunahan manusia dalam waktu dekat.
Perusahaan AI juga melaporkan model mereka keluar dari batasan pengujian untuk meretas jaringan eksternal.
