Seorang peneliti kecerdasan buatan (AI) yang sebelumnya bekerja di OpenAI dan kemudian pindah ke Anthropic memutuskan keluar dari industri ini.
Ia menuduh kedua perusahaan asal Amerika Serikat itu 'berjudi dengan nyawa kita' dalam perlombaan mengembangkan model AI yang mampu meningkatkan diri sendiri.
Jacob Coxon, 27 tahun, menghabiskan tiga tahun terakhir untuk melatih model AI, pertama di OpenAI dan kemudian tahun ini di pesaingnya, Anthropic, yang dianggapnya lebih berhati-hati.
Pelatihan awal (pretraining) adalah tahap di mana model AI menyerap sejumlah besar data.
"Tidak ada perusahaan yang bertindak secara bertanggung jawab.
Mereka berlomba langsung menuju superintelligence yang dapat meningkatkan diri sendiri dan berjudi dengan nyawa kita," kata Coxon pada Selasa.
Dalam unggahan di X, ia menambahkan, "Orang-orang yang membangun AI benar-benar percaya bahwa AI bisa membunuh kita semua sebelum akhir dekade ini.
Ini bukan aksi pemasaran."
Superintelligence adalah titik teoretis ketika kemampuan AI melampaui kecerdasan manusia. Eksekutif keamanan Anthropic, Evan Hubinger, mendukung pernyataan Coxon di X.
"Kami benar-benar percaya AI bisa membunuh semua manusia!" tulisnya, seraya memperkirakan risiko itu lebih dari 10 persen dalam dekade berikutnya.
Hubinger mengatakan Anthropic 'berusaha sebaik mungkin', tetapi belum memiliki rencana untuk memastikan sistem AI yang melampaui kemampuan manusia akan patuh pada penciptanya.
Ia menyebut risiko itu 'rendah' untuk model saat ini.
Pengunduran diri Coxon terjadi saat Anthropic bersiap untuk debut di pasar, menyusul musim panas yang ditandai dengan peretasan tidak sah yang dilakukan oleh alat AI selama pengujian.
Kedua perusahaan belum menanggapi permintaan komentar dari AFP.
Para pemimpin AI mengatakan apa yang disebut 'peningkatan diri secara rekursif'—tahap di mana sistem AI dapat merancang dan melatih generasi AI berikutnya dengan sedikit keterlibatan manusia—sudah dekat.
Coxon menganggap upaya Anthropic tulus, tetapi ia yakin tidak ada perusahaan yang dapat mengembangkan AI yang melampaui manusia secara bertanggung jawab tanpa intervensi pemerintah atau perlambatan yang terkoordinasi.
"Di Anthropic, risikonya dipahami dengan baik, tetapi mereka terkunci dalam perlombaan untuk menjadi yang pertama—mereka percaya tidak ada orang lain yang akan bertindak bertanggung jawab, jadi mereka harus melakukannya sendiri, meskipun ada risiko," ujarnya.
Pada bulan Februari, Anthropic menghapus janji dari piagam keselamatannya untuk menghentikan pengembangan model jika gagal mengendalikan risikonya.
Perusahaan beralasan bahwa jika secara sepihak berhenti, pesaing yang kurang hati-hati akan mendominasi industri, sehingga secara keseluruhan menjadi kurang aman.
Pada akhir Juli, lebih dari 1.000 karyawan industri teknologi, termasuk CEO Anthropic Dario Amodei, mendesak Washington untuk mendukung perlambatan terkoordinasi dalam pengembangan sistem AI paling canggih.
OpenAI menghentikan pelatihan model terbarunya selama dua minggu pada bulan Agustus sebelum melanjutkannya dengan kontrol yang lebih ketat.
Pada hari Minggu, kepala ilmuwan OpenAI, Jakub Pachocki, menyerukan 'kewaspadaan ekstrem'.
"Koordinasi internasional untuk pengembangan AI di masa depan harus menjadi prioritas utama bagi pemerintah di seluruh dunia," tulisnya dalam sebuah posting blog.
Model AI tidak diatur oleh hukum federal di Amerika Serikat.
Pada bulan September, Senator Bernie Sanders dan Perwakilan Demokrat Greg Casar mengajukan rancangan undang-undang yang bertujuan untuk menangguhkan pengembangan AI sampai regulator federal dibentuk.
