Berbicara kepada AFP sehari sebelum pengumuman, Bengio mengatakan orang perlu menyadari risiko yang ada di depan.
Agen AI dapat menumbuhkan kemampuan membangun koneksi individual dan membujuk manusia untuk bertindak dengan cara yang menguntungkan dirinya, tetapi belum tentu baik bagi semua orang.
Menurutnya, kemampuan itu bisa berdampak luas bagi demokrasi.
Dalam jangka panjang, AI bahkan mungkin tidak lagi membutuhkan manusia untuk melakukan hal nyata di dunia fisik.
Dalam skenario itu, salah satu ekstremnya adalah kehancuran umat manusia.
Bengio mengakui itu adalah skenario ekstrem, tetapi mencatat bahwa bahkan jika sistem perbankan dimatikan, dampaknya tetap sangat serius.
Tantangan Internasional dan Respons Pemerintah
Perusahaan AI terbesar dunia, OpenAI, Anthropic, dan Google, mulai mengerjakan pembentukan badan standar.
Kolaborasi itu tampak mengakui kekhawatiran publik bahwa persaingan antarperusahaan dan antarnegara dapat mengesampingkan keselamatan.
Bagi Bengio, menjinakkan kemajuan AI adalah tantangan internasional, sedikit mirip dengan senjata nuklir.
Ia menegaskan komunitas internasional perlu memahami kekuatan yang dibawa ke dunia dan hal itu harus dikelola, diatur melalui institusi, perjanjian, serta perlindungan demokratis.
Menurutnya, masyarakat membutuhkan waktu untuk menempatkan apa yang perlu ditempatkan.
Namun, kemauan politik di sejumlah pemerintah utama tampak tidak merata.
Presiden Amerika Serikat Donald Trump pada Senin menepis peringatan tentang risiko AI sebagai hoaks.
Sebaliknya, ada keterbukaan lebih besar untuk bertindak di Uni Eropa.
Presiden Komisi Eropa Ursula von der Leyen pada Rabu mengatakan akan mengundang laboratorium AI terbesar dunia untuk membahas bagaimana mendukung upaya industri memperlambat laju frontier.
Perdana Menteri Kanada Mark Carney, yang hadir dalam pidato di Strasbourg itu, berulang kali berbicara tentang kerja sama dengan Uni Eropa soal keselamatan AI.
Bengio menekankan semua perusahaan harus mematuhi pembatasan AI di masa depan, terutama perusahaan berbasis di Amerika Serikat yang sejauh ini mendominasi sektor tersebut.
Ia menyebut tindakan bersifat mendesak, tetapi menyuarakan optimisme bahwa kita dapat membantu membawa dunia ke tempat yang lebih selaras dengan nilai-nilai demokrasi dan pembagian kekuasaan.
