Raja Charles III pada Kamis mendesak para pemimpin senior dari OpenAI, Anthropic, Google DeepMind, dan Nvidia untuk memastikan kecerdasan buatan tetap terkendali dan melayani manusia serta planet ini.
Pertemuan di Skotlandia itu membahas bagaimana AI dapat memberi manfaat bagi masyarakat, di tengah perdebatan apakah kemajuan pesat teknologi ini akan segera di luar kendali manusia.
"Perkembangan AI — substansi dan kecepatannya — sama-sama menarik dan sangat mengkhawatirkan," kata raja dalam sambutan pembukaannya.
Ia menekankan bahaya eksistensial jika teknologi tersebut jatuh ke tangan yang salah dan digunakan dengan cara yang berpotensi katastrofik.
"Bukankah kita perlu sarana kontrol yang memadai sebelum semuanya terlambat?" ujarnya.
Pertemuan di Dumfries House
Pertemuan berlangsung di Dumfries House, Ayrshire, Skotlandia, markas The King's Foundation, badan amal raja.
Hadir antara lain CEO Nvidia Jensen Huang, Ketua Google DeepMind Demis Hassabis, dan CFO OpenAI Sarah Friar.
Menteri AI Inggris Kanishka Narayan turut hadir, dan perwakilan Anthropic dijadwalkan hadir menurut pernyataan Istana Buckingham.
Raja meminta peserta mempertimbangkan prinsip fundamental yang harus memandu pengembangan AI.
Ia ingin peserta membahas cara memanfaatkan manfaat AI dengan keselamatan sebagai inti serta membangun kerja sama dan konsensus internasional.
Charles menegaskan tugas mereka bukan sekadar memajukan teknologi, tetapi memastikan teknologi tetap melayani manusia, komunitas, dan alam.
Perdebatan Perlambatan AI
Debat perlambatan AI memecah industri, terutama setelah peneliti Anthropic Jacob Coxon mengundurkan diri dengan peringatan serius tentang risiko teknologi tersebut.
CEO Anthropic Dario Amodei merespons dengan esai yang menyatakan industri mungkin perlu memperlambat laju kerja mereka.
