Paus Leo XIV menyatakan bahwa kekhawatiran tentang kecerdasan buatan (AI) yang lepas kendali bukanlah 'fake news' dan harus ditanggapi dengan serius.
Pernyataan itu disampaikannya kepada wartawan di pesawat kepausan saat kembali dari kunjungan empat hari ke Prancis.
Ia menegaskan isu keselamatan AI yang diangkat para ahli perlu didiskusikan dan ditindaklanjuti, bukan diabaikan.
Sikap Paus Leo ini berseberangan dengan Presiden Amerika Serikat Donald Trump yang menyebut kekhawatiran AI sebagai 'hoax'.
Dalam konferensi pers, Paus Leo ditanya tentang langkah yang seharusnya diambil Amerika Serikat dan China untuk mencegah risiko katastrofik AI bagi umat manusia.
Ia menekankan bahwa masalah ini memerlukan dialog terbuka dan tidak bisa dibiarkan begitu saja.
Paus Leo mengaku tidak panik, namun menegaskan bahwa kekhawatiran para pakar AI harus dianggap serius.
Ia juga membantah anggapan bahwa kekhawatiran tersebut sengaja disebarkan untuk keuntungan finansial atau kepentingan lain.
Seruan Regulasi dan Dialog Lintas Sektor
Paus Leo telah mendedikasikan ensiklik pertamanya untuk AI dan perlindungan manusia, dengan menyerukan regulasi yang kuat serta perlambatan pengembangan teknologi.
Ia menyoroti laporan terbaru tentang Nvidia yang memperkenalkan pengaman pada AI, meski perusahaan itu sebelumnya menolak regulasi eksternal.
Paus Leo menilai AI sebagai salah satu tantangan terbesar bagi umat manusia dan secara pribadi meluncurkan ensikliknya bersama salah satu pendiri Anthropic, Christopher Olah, dalam acara di Vatikan pada Mei.
Langkah itu merupakan bagian dari upaya Vatikan melibatkan Silicon Valley dalam membahas dampak manusiawi dari AI.
Ia mengajak para pemimpin politik, pelaku industri AI, organisasi sosial, dan asosiasi untuk bersama-sama melihat apa yang sudah terjadi dan apa yang mungkin terjadi di masa depan.
Menutup mata terhadap risiko AI dinilainya bukan cara yang bertanggung jawab.
Sejumlah raksasa AI, termasuk Anthropic, telah menyerukan perlambatan pengembangan agar langkah keselamatan bisa mengejar teknologi yang bergerak cepat.
CEO Anthropic, Dario Amodei, memperingatkan bahwa dalam enam hingga dua belas bulan, AI bisa mampu memimpin sekawanan agen yang mengambil alih seluruh internet.
Trump disebut menggelar makan malam larut dengan Amodei pada Minggu, membahas kekhawatiran warga Amerika dan cara menjaga dominasi Amerika Serikat.
Paus Leo juga mencatat bahwa CEO OpenAI mengatakan perusahaannya akan menunda penjualan saham di Wall Street hingga tahun depan untuk fokus pada keselamatan.
Perbedaan Pandangan dengan Trump dan Harapan Solusi
Komentar Paus Leo menegaskan kembali perbedaan pandangannya dengan Trump, setelah sebelumnya berselisih soal perang AS-Israel di Iran dan kebijakan imigrasi.
Trump, yang dikenal sebagai pendukung AI, sering memperingatkan bahwa Amerika Serikat harus tetap unggul dari China dalam perlombaan teknologi.
Ia menyebut upaya membatasi teknologi sebagai bagian dari 'konspirasi' lawan politiknya.
Minggu lalu, Trump bertemu Presiden China Xi Jinping di Washington.
Xi menekankan pentingnya memastikan AI selalu berada di bawah kendali manusia, sementara Trump lebih fokus memasarkannya sebagai 'superintelligence' dan menolak seruan regulasi.
Kendati demikian, kedua pemimpin sepakat menjajaki 'mekanisme notifikasi' baru untuk insiden AI yang memengaruhi keamanan nasional.
AI telah menjadi isu utama di tahun pemilu Amerika Serikat, seiring perusahaan-perusahaan besar berlomba membangun jaringan pusat data nasional.
Warga dari kedua partai semakin menyuarakan kekhawatiran tentang dampaknya terhadap lahan pertanian, pasokan air, dan tagihan listrik.
Paus Leo menyatakan Vatikan telah menerima masukan dari berbagai pihak yang ingin terlibat dalam percakapan lebih luas tentang AI sejak ensikliknya terbit pada Mei.
Sebuah komisi Vatikan bekerja mempromosikan dialog, studi, dan investigasi untuk memastikan AI tidak sampai menghancurkan manusia atau menyingkirkan manusia dari percakapan.
Ia mengaku 'relatif optimistis' bahwa solusi bisa ditemukan.
Menurutnya, sudah cukup banyak orang yang serius tertarik dan bersedia membahas hal ini di luar pertanyaan soal kekuasaan dan siapa yang lebih dulu.
