Vatikan melibatkan Anthropic sebagai bagian dari upaya sepuluh tahun untuk berdialog dengan Silicon Valley tentang dampak AI terhadap kemanusiaan.
Namun dalam teksnya, Paus Leo berulang kali mengecam konsentrasi kekuasaan dan data di tangan segelintir orang di sektor swasta sebagai bahaya, terutama bagi anak-anak dan kelompok rentan.
Ia menyerukan regulasi eksternal terhadap pekerjaan mereka.
"Tidak cukup hanya mengacu pada etika secara abstrak; diperlukan kerangka hukum yang kokoh, pengawasan independen, pengguna yang terinformasi, dan sistem politik yang tidak mengabaikan tanggung jawabnya," tulisnya.
"AI yang lebih moral tidaklah cukup jika moralitas itu ditentukan oleh segelintir orang."
Paus Leo memohon kepada pengembang AI dan pemimpin politik yang bertanggung jawab mengatur mereka untuk memperlambat dan merenungkan apa yang mereka lakukan.
Ia mendesak mereka menggunakan pedoman etika dan spiritual untuk memilih bekerja demi kebaikan umat manusia, bukan demi keuntungan atau kekuasaan pribadi.
Pesaing AI, OpenAI dan Anthropic, adalah perusahaan swasta AS paling bernilai kedua dan ketiga, masing-masing bernilai ratusan miliar dolar, lebih besar dari PDB banyak negara.
Kedua perusahaan itu menuju IPO senilai hampir satu triliun dolar.
Salah satu pendiri Anthropic, Christopher Olah, menyambut baik kritik dan kekhawatiran Paus.
Ia mengatakan pemeriksaan eksternal semacam itu fundamental agar teknologi "berjalan baik" bagi umat manusia karena risikonya sangat besar — "kemungkinan nyata bahwa AI akan menggantikan tenaga kerja manusia dalam skala yang sangat besar."
"Kita perlu lebih banyak dunia — komunitas agama, masyarakat sipil, akademisi, pemerintah — untuk melakukan apa yang telah dilakukan Yang Mulia di sini: menganggap serius, melihat secara dekat, dan mendorong peristiwa ke arah yang lebih baik," kata Olah.
