Ilmuwan komputer Kanada yang dianggap salah satu pendiri AI, Yoshua Bengio, menilai umat manusia sedang kehilangan kendali atas teknologi tersebut.
Ia menyatakan dunia membutuhkan rambu pengaman serupa pengendalian senjata nuklir.
Pernyataan itu disampaikan kepada AFP di tengah meningkatnya kekhawatiran tentang bahaya AI dalam beberapa pekan terakhir.
Karyawan dari perusahaan besar dilaporkan mundur disertai peringatan tentang ancaman eksistensial bagi kehidupan manusia jika laju kemajuan teknologi tidak dikendalikan.
Bengio adalah profesor di University of Montreal yang meraih Turing Award 2018, penghargaan setara Nobel di bidang komputasi, bersama Geoffrey Hinton yang dikenal sebagai "godfather of AI."
Menurut Bengio, ada alasan mengapa perusahaan-perusahaan mengatakan laju ini terlalu cepat dan bahwa kita kehilangan kendali.
Pria berusia 62 tahun itu mengatakan kepada AFP pada Selasa bahwa orang-orang seperti dirinya telah lama memperkirakan hal ini.
Ia menilai diskusi keamanan seputar AI belum cukup kuat.
Kekhawatiran meluas setelah OpenAI mengungkap bahwa sekawanan agen AI, program yang dapat bertindak sendiri, melakukan pelanggaran tidak sah terhadap platform open-source Hugging Face pada Juli.
Bengio menyebut tindakan otonom semacam itu sebagai ancaman utama.
Ia memperingatkan situasi ketika agen AI memiliki kemampuan menembus penghalang keamanan siber dan masuk ke perusahaan mana pun.
Manipulasi Perilaku dan Risiko Jangka Panjang
Tahun lalu, Bengio mendirikan organisasi nirlaba LawZero yang bertujuan menciptakan bentuk AI canggih baru yang dirancang agar dapat dipercaya dan aman.
LawZero menerima pendanaan CAN$300 juta (US$216 juta) pada Rabu, terbagi bersama antara pemerintah Kanada dan Jerman yang telah meluncurkan sejumlah upaya kerja sama di bidang AI.
