Ilmuwan komputer Kanada yang dianggap salah satu pendiri AI, Yoshua Bengio, menilai umat manusia sedang kehilangan kendali atas teknologi tersebut.
Ia menyatakan dunia membutuhkan rambu pengaman serupa pengendalian senjata nuklir.
Pernyataan itu disampaikan kepada AFP di tengah meningkatnya kekhawatiran tentang bahaya AI dalam beberapa pekan terakhir.
Karyawan dari perusahaan besar dilaporkan mundur disertai peringatan tentang ancaman eksistensial bagi kehidupan manusia jika laju kemajuan teknologi tidak dikendalikan.
Bengio adalah profesor di University of Montreal yang meraih Turing Award 2018, penghargaan setara Nobel di bidang komputasi, bersama Geoffrey Hinton yang dikenal sebagai "godfather of AI."
Menurut Bengio, ada alasan mengapa perusahaan-perusahaan mengatakan laju ini terlalu cepat dan bahwa kita kehilangan kendali.
Pria berusia 62 tahun itu mengatakan kepada AFP pada Selasa bahwa orang-orang seperti dirinya telah lama memperkirakan hal ini.
Ia menilai diskusi keamanan seputar AI belum cukup kuat.
Kekhawatiran meluas setelah OpenAI mengungkap bahwa sekawanan agen AI, program yang dapat bertindak sendiri, melakukan pelanggaran tidak sah terhadap platform open-source Hugging Face pada Juli.
Bengio menyebut tindakan otonom semacam itu sebagai ancaman utama.
Ia memperingatkan situasi ketika agen AI memiliki kemampuan menembus penghalang keamanan siber dan masuk ke perusahaan mana pun.
Manipulasi Perilaku dan Risiko Jangka Panjang
Tahun lalu, Bengio mendirikan organisasi nirlaba LawZero yang bertujuan menciptakan bentuk AI canggih baru yang dirancang agar dapat dipercaya dan aman.
LawZero menerima pendanaan CAN$300 juta (US$216 juta) pada Rabu, terbagi bersama antara pemerintah Kanada dan Jerman yang telah meluncurkan sejumlah upaya kerja sama di bidang AI.
Berbicara kepada AFP sehari sebelum pengumuman, Bengio mengatakan orang perlu menyadari risiko yang ada di depan.
Agen AI dapat menumbuhkan kemampuan membangun koneksi individual dan membujuk manusia untuk bertindak dengan cara yang menguntungkan dirinya, tetapi belum tentu baik bagi semua orang.
Menurutnya, kemampuan itu bisa berdampak luas bagi demokrasi.
Dalam jangka panjang, AI bahkan mungkin tidak lagi membutuhkan manusia untuk melakukan hal nyata di dunia fisik.
Dalam skenario itu, salah satu ekstremnya adalah kehancuran umat manusia.
Bengio mengakui itu adalah skenario ekstrem, tetapi mencatat bahwa bahkan jika sistem perbankan dimatikan, dampaknya tetap sangat serius.
Tantangan Internasional dan Respons Pemerintah
Perusahaan AI terbesar dunia, OpenAI, Anthropic, dan Google, mulai mengerjakan pembentukan badan standar.
Kolaborasi itu tampak mengakui kekhawatiran publik bahwa persaingan antarperusahaan dan antarnegara dapat mengesampingkan keselamatan.
Bagi Bengio, menjinakkan kemajuan AI adalah tantangan internasional, sedikit mirip dengan senjata nuklir.
Ia menegaskan komunitas internasional perlu memahami kekuatan yang dibawa ke dunia dan hal itu harus dikelola, diatur melalui institusi, perjanjian, serta perlindungan demokratis.
Menurutnya, masyarakat membutuhkan waktu untuk menempatkan apa yang perlu ditempatkan.
Namun, kemauan politik di sejumlah pemerintah utama tampak tidak merata.
Presiden Amerika Serikat Donald Trump pada Senin menepis peringatan tentang risiko AI sebagai hoaks.
Sebaliknya, ada keterbukaan lebih besar untuk bertindak di Uni Eropa.
Presiden Komisi Eropa Ursula von der Leyen pada Rabu mengatakan akan mengundang laboratorium AI terbesar dunia untuk membahas bagaimana mendukung upaya industri memperlambat laju frontier.
Perdana Menteri Kanada Mark Carney, yang hadir dalam pidato di Strasbourg itu, berulang kali berbicara tentang kerja sama dengan Uni Eropa soal keselamatan AI.
Bengio menekankan semua perusahaan harus mematuhi pembatasan AI di masa depan, terutama perusahaan berbasis di Amerika Serikat yang sejauh ini mendominasi sektor tersebut.
Ia menyebut tindakan bersifat mendesak, tetapi menyuarakan optimisme bahwa kita dapat membantu membawa dunia ke tempat yang lebih selaras dengan nilai-nilai demokrasi dan pembagian kekuasaan.
