VATIKAN — Paus Leo XIV pada Senin (26/5/2026) menyerukan regulasi ketat terhadap kecerdasan buatan (AI) dan meminta para pengembangnya bekerja untuk kepentingan umum, bukan keuntungan semata.
Seruan itu disampaikan dalam ensiklik pertamanya yang berjudul "Magnifica Humanitas" (Kemanusiaan yang Agung).
Dokumen ini telah dinanti sejak Paus asal Amerika Serikat pertama itu menyatakan AI sebagai tantangan terbesar umat manusia saat ini.
Dalam teks tersebut, Paus Leo mengecam "budaya kekuasaan" yang mendorong perlombaan AI, terutama dalam pengembangan metode perang jarak jauh yang semakin canggih.
Ia menyatakan bahwa "tidak diperbolehkan" mempercayakan keputusan yang tidak dapat diubah dan mematikan kepada sistem AI.
Pernyataan ini berpotensi menjadi titik gesekan baru antara Paus dan pemerintahan Trump yang gencar menderegulasi pengembangan AI.
Seruan untuk Regulasi dan Pengawasan Independen
"Kecerdasan buatan kini harus dilucuti, dibebaskan dari logika yang menjadikannya alat dominasi, pengucilan, dan kematian," kata Paus dalam presentasi khusus ensiklik tersebut di Vatikan.
Ensiklik merupakan salah satu dokumen ajaran paling otoritatif yang dapat dikeluarkan seorang Paus.
Para pakar di industri teknologi, akademisi, dan moralitas Katolik mengatakan dokumen ini kemungkinan akan menjadi tolok ukur dalam perdebatan tentang AI.
Dokumen ini menjadi referensi bagi pembuat kebijakan, peneliti, dan masyarakat umum.
Taylor Black, eksekutif Microsoft AI dan direktur Institut AI Universitas Katolik Amerika, mengatakan dokumen itu akan mendorong orang-orang "di garis depan alat-alat ini" untuk bertanya, "Apa artinya menjadi manusia?"
Paus Kritik Perusahaan AI meski Undang Anthropic
Peluncuran Vatikan juga dihadiri salah satu pendiri Anthropic, yang saat ini berseteru hukum dengan pemerintahan Trump terkait akses ke teknologinya.
Vatikan melibatkan Anthropic sebagai bagian dari upaya sepuluh tahun untuk berdialog dengan Silicon Valley tentang dampak AI terhadap kemanusiaan.
Namun dalam teksnya, Paus Leo berulang kali mengecam konsentrasi kekuasaan dan data di tangan segelintir orang di sektor swasta sebagai bahaya, terutama bagi anak-anak dan kelompok rentan.
Ia menyerukan regulasi eksternal terhadap pekerjaan mereka.
"Tidak cukup hanya mengacu pada etika secara abstrak; diperlukan kerangka hukum yang kokoh, pengawasan independen, pengguna yang terinformasi, dan sistem politik yang tidak mengabaikan tanggung jawabnya," tulisnya.
"AI yang lebih moral tidaklah cukup jika moralitas itu ditentukan oleh segelintir orang."
Paus Leo memohon kepada pengembang AI dan pemimpin politik yang bertanggung jawab mengatur mereka untuk memperlambat dan merenungkan apa yang mereka lakukan.
Ia mendesak mereka menggunakan pedoman etika dan spiritual untuk memilih bekerja demi kebaikan umat manusia, bukan demi keuntungan atau kekuasaan pribadi.
Pesaing AI, OpenAI dan Anthropic, adalah perusahaan swasta AS paling bernilai kedua dan ketiga, masing-masing bernilai ratusan miliar dolar, lebih besar dari PDB banyak negara.
Kedua perusahaan itu menuju IPO senilai hampir satu triliun dolar.
Salah satu pendiri Anthropic, Christopher Olah, menyambut baik kritik dan kekhawatiran Paus.
Ia mengatakan pemeriksaan eksternal semacam itu fundamental agar teknologi "berjalan baik" bagi umat manusia karena risikonya sangat besar — "kemungkinan nyata bahwa AI akan menggantikan tenaga kerja manusia dalam skala yang sangat besar."
"Kita perlu lebih banyak dunia — komunitas agama, masyarakat sipil, akademisi, pemerintah — untuk melakukan apa yang telah dilakukan Yang Mulia di sini: menganggap serius, melihat secara dekat, dan mendorong peristiwa ke arah yang lebih baik," kata Olah.
"Kita membutuhkan suara moral yang tidak bisa dibengkokkan oleh insentif."
Para Pakar: Teks Ini Akan Jadi Tolok Ukur
Dalam teks yang metodis, Paus yang berlatar belakang matematika ini menelusuri sejarah ajaran sosial Gereja Katolik dan menerapkan konsep intinya — keadilan, solidaritas, martabat kerja, dan tujuan universal sumber daya — ke dalam revolusi digital.
"Saya yakin ini akan menjadi dokumen yang menentukan bagi era kita, dokumen yang mendalam dan visioner," kata Paolo Carozza, profesor hukum di Notre Dame Law School dan ketua Meta Oversight Board.
"Paus Leo menawarkan suara yang jelas, komprehensif, dan koheren yang mendorong kita untuk bertanggung jawab membangun dunia di mana teknologi melayani manusia, bukan merendahkan mereka," ujarnya.
Dalam bab-bab terkuatnya, Paus Leo mengecam bagaimana AI telah mempercepat "normalisasi perang" dengan membuat orang tidak peka terhadap biayanya.
Ia tidak menyebut konflik spesifik, tetapi mengutip "imperialisme yang berlawanan, antara kekuatan yang ingin mempertahankan supremasi mereka dan mereka yang bercita-cita merebut supremasi itu."
Ia menuntut transparansi dan akuntabilitas dari pengembang AI sehingga rantai komando dalam memerintahkan serangan dengan senjata AI selalu diketahui.
Ia menyatakan bahwa teori "perang adil" Gereja Katolik, yang memberikan kriteria spesifik kapan kekuatan dapat dibenarkan, kini "ketinggalan zaman" mengingat kemajuan teknologi perang.
Teks dalam Tradisi Keadilan Sosial Gereja
Paus Leo menandatangani teks itu pada 15 Mei, peringatan 135 tahun publikasi "Rerum Novarum" (Tentang Hal-Hal Baru), dokumen ajaran terpenting dari pahlawan dan senamanya, Paus Leo XIII.
Dokumen itu membahas hak-hak pekerja, batas kapitalisme, dan kewajiban negara serta pengusaha terhadap pekerja saat Revolusi Industri berlangsung.
Dokumen itu menjadi fondasi pemikiran sosial Katolik modern, dan Paus saat ini mengutipnya di awal masa kepausannya terkait revolusi AI.
Ia percaya AI menimbulkan pertanyaan eksistensial yang sama seperti Revolusi Industri lebih dari seabad lalu.
"Magnifica Humanitas" menjadi bab terbaru dalam sejarah panjang para Paus yang mengadaptasi "Rerum Novarum" pada persoalan sosial zaman mereka, sering kali menekankan martabat kerja bagi kesejahteraan manusia.
AI membangkitkan ketakutan eksistensial dan visi utopis di tengah perdebatan sengit apakah ia akan menjadi katalis yang memperkaya umat manusia atau racun teknologi yang menumpulkan kecerdasan manusia sambil memusnahkan jutaan pekerjaan bergaji tinggi.
"Pengejaran keuntungan yang lebih besar tidak dapat membenarkan pilihan yang secara sistematis mengorbankan pekerjaan, karena manusia adalah tujuan, bukan alat, dan tatanan ekonomi harus tetap tunduk pada martabat manusia dan kebaikan bersama," tulis Paus Leo.
Paus Leo memperluas keprihatinannya untuk menjunjung martabat manusia dalam pekerjaan hingga mengeluarkan permintaan maaf kepausan pertama untuk peran Takhta Suci sendiri dalam melegitimasi perbudakan dengan memberikan otoritas eksplisit kepada penguasa Eropa untuk menundukkan dan memperbudak "orang kafir."
Dialog Sepuluh Tahun dengan Silicon Valley
Pejabat Vatikan menolak menyebut siapa yang berkontribusi pada ensiklik Paus Leo. Namun, pejabat Vatikan dan gereja telah berdialog dengan perusahaan teknologi Silicon Valley selama satu dekade.
Keputusan untuk mengundang Anthropic dalam peluncuran Vatikan dikritik oleh sebagian pihak yang menganggapnya sebagai cap persetujuan kepausan terhadap perusahaan AI itu.
Perusahaan tersebut saat ini menggugat pemerintahan Trump setelah memerintahkan semua lembaga AS untuk berhenti menggunakan teknologi Anthropic karena menolak mengizinkan militer AS menggunakannya tanpa batas.
Brian Boyd, penghubung iman AS untuk Future of Life Institute nirlaba, membaca keikutsertaan salah satu pendiri Anthropic, Olah, sebagai pengakuan atas posisi terkemuka perusahaan itu di bidangnya dan mirip dengan audiensi kepausan dengan kepala negara: bukan dukungan.
Anthropic adalah "perusahaan raksasa yang mengambil risiko dan tanggung jawab besar pada dirinya sendiri," kata Boyd, seraya menambahkan bahwa perusahaan itu telah "menunjukkan niat baik dan integritas serta minat dalam dialog."
Paus Leo menandatangani teks tersebut pada 15 Mei, bertepatan dengan peringatan 135 tahun publikasi ensiklik "Rerum Novarum" karya Paus Leo XIII, yang menjadi fondasi pemikiran sosial Katolik modern.
Dokumen itu membahas hak-hak pekerja dan batas kapitalisme di era Revolusi Industri.
