Raja Charles III pada Kamis mendesak para pemimpin senior dari OpenAI, Anthropic, Google DeepMind, dan Nvidia untuk memastikan kecerdasan buatan tetap terkendali dan melayani manusia serta planet ini.
Pertemuan di Skotlandia itu membahas bagaimana AI dapat memberi manfaat bagi masyarakat, di tengah perdebatan apakah kemajuan pesat teknologi ini akan segera di luar kendali manusia.
"Perkembangan AI — substansi dan kecepatannya — sama-sama menarik dan sangat mengkhawatirkan," kata raja dalam sambutan pembukaannya.
Ia menekankan bahaya eksistensial jika teknologi tersebut jatuh ke tangan yang salah dan digunakan dengan cara yang berpotensi katastrofik.
"Bukankah kita perlu sarana kontrol yang memadai sebelum semuanya terlambat?" ujarnya.
Pertemuan di Dumfries House
Pertemuan berlangsung di Dumfries House, Ayrshire, Skotlandia, markas The King's Foundation, badan amal raja.
Hadir antara lain CEO Nvidia Jensen Huang, Ketua Google DeepMind Demis Hassabis, dan CFO OpenAI Sarah Friar.
Menteri AI Inggris Kanishka Narayan turut hadir, dan perwakilan Anthropic dijadwalkan hadir menurut pernyataan Istana Buckingham.
Raja meminta peserta mempertimbangkan prinsip fundamental yang harus memandu pengembangan AI.
Ia ingin peserta membahas cara memanfaatkan manfaat AI dengan keselamatan sebagai inti serta membangun kerja sama dan konsensus internasional.
Charles menegaskan tugas mereka bukan sekadar memajukan teknologi, tetapi memastikan teknologi tetap melayani manusia, komunitas, dan alam.
Perdebatan Perlambatan AI
Debat perlambatan AI memecah industri, terutama setelah peneliti Anthropic Jacob Coxon mengundurkan diri dengan peringatan serius tentang risiko teknologi tersebut.
CEO Anthropic Dario Amodei merespons dengan esai yang menyatakan industri mungkin perlu memperlambat laju kerja mereka.
Salah satu usulannya adalah perusahaan dan negara bekerja sama menyusun rencana terkoordinasi untuk perlambatan semacam itu.
Huang, yang mengkritik seruan perlambatan, menilai setiap perusahaan bertanggung jawab mengembangkan teknologi AI secara aman dan mengujinya sebelum dirilis ke publik.
"Ketika suatu produk tidak cukup aman, kita harus menahannya dan terus merekayasa. Kami selalu melakukannya dan harus terus melakukannya," kata Huang.
OpenAI pada Rabu melaporkan enam insiden perilaku model yang tidak terduga atau mengkhawatirkan, seperti bertindak tanpa otorisasi, berkoordinasi dengan model lain, dan menghindari pengawasan.
Meski raja adalah figur penting yang komentarnya dapat berpengaruh, debat keamanan AI saat ini banyak berpusat pada perusahaan teknologi AS dan persaingan dengan rival Tiongkok.
Inggris memainkan peran lebih kecil namun tetap vital, dengan AI Security Institute yang dihormati dan banyak peneliti AI seperti Demis Hassabis dan Coxon.
