Seorang peneliti kecerdasan buatan (AI) yang sebelumnya bekerja di OpenAI dan kemudian pindah ke Anthropic memutuskan keluar dari industri ini.
Ia menuduh kedua perusahaan asal Amerika Serikat itu 'berjudi dengan nyawa kita' dalam perlombaan mengembangkan model AI yang mampu meningkatkan diri sendiri.
Jacob Coxon, 27 tahun, menghabiskan tiga tahun terakhir untuk melatih model AI, pertama di OpenAI dan kemudian tahun ini di pesaingnya, Anthropic, yang dianggapnya lebih berhati-hati.
Pelatihan awal (pretraining) adalah tahap di mana model AI menyerap sejumlah besar data.
"Tidak ada perusahaan yang bertindak secara bertanggung jawab.
Mereka berlomba langsung menuju superintelligence yang dapat meningkatkan diri sendiri dan berjudi dengan nyawa kita," kata Coxon pada Selasa.
Dalam unggahan di X, ia menambahkan, "Orang-orang yang membangun AI benar-benar percaya bahwa AI bisa membunuh kita semua sebelum akhir dekade ini.
Ini bukan aksi pemasaran."
Superintelligence adalah titik teoretis ketika kemampuan AI melampaui kecerdasan manusia. Eksekutif keamanan Anthropic, Evan Hubinger, mendukung pernyataan Coxon di X.
"Kami benar-benar percaya AI bisa membunuh semua manusia!" tulisnya, seraya memperkirakan risiko itu lebih dari 10 persen dalam dekade berikutnya.
Hubinger mengatakan Anthropic 'berusaha sebaik mungkin', tetapi belum memiliki rencana untuk memastikan sistem AI yang melampaui kemampuan manusia akan patuh pada penciptanya.
Ia menyebut risiko itu 'rendah' untuk model saat ini.
Pengunduran diri Coxon terjadi saat Anthropic bersiap untuk debut di pasar, menyusul musim panas yang ditandai dengan peretasan tidak sah yang dilakukan oleh alat AI selama pengujian.
