Pendiri Microsoft Bill Gates memperingatkan bahaya perkembangan kecerdasan buatan yang dinilai berpotensi mengancam keselamatan miliaran manusia.
Peringatan itu muncul jika teknologi tersebut dimanfaatkan oleh pihak yang tidak bertanggung jawab.
Gates menyebut AI cukup kuat untuk memicu peristiwa yang menyebabkan kematian satu miliar orang.
Ia menilai belum pernah ada senjata sedahsyat kombinasi antara orang-orang berniat jahat dan perangkat AI terkini.
Dorongan Regulasi dan Kekhawatiran Industri
Kekhawatiran Gates sejalan dengan perdebatan para ilmuwan mengenai risiko gabungan antara perangkat AI modern dan niat jahat manusia.
Ancaman penyalahgunaan AI kini dikategorikan sebagai salah satu risiko paling mematikan dalam sejarah teknologi masa kini.
Peringatan terhadap ancaman katastropik AI turut memicu pengunduran diri Jacob Coxon dari Anthropic PBC.
Coxon menuduh mantan perusahaannya serta OpenAI mempertaruhkan nyawa manusia demi memenangkan persaingan pengembangan AI super-cerdas.
Rekan kerjanya di Anthropic memperkirakan ada peluang di atas 10 persen bagi AI untuk memusnahkan umat manusia dalam satu dekade ke depan.
CEO Anthropic Dario Amodei mengusulkan perlambatan riset AI, langkah yang didukung CEO OpenAI Sam Altman dan pemimpin xAI Elon Musk.
Gates menegaskan mekanisme pengawasan internal dari pelaku industri saja tidak akan mampu membendung potensi bahaya tersebut.
Menurutnya, penegak hukum dan politisi perlu terlibat dalam pembahasan soal bentuk pengamanan serta pengawasan yang diperlukan.
Ia menilai keterlibatan itu harus menjadi suatu keharusan.
Dalam esai terbitan Agustus, Gates telah memaparkan ancaman nyata penyalahgunaan AI canggih oleh peretas.
Risiko itu mencakup serangan siber, disinformasi, hingga penipuan berskala besar.
Dampaknya dinilai dapat melumpuhkan sektor vital seperti rumah sakit, jaringan listrik, lembaga keuangan, dan sistem pemerintahan.
