Whistleblower Jacob Coxon, mantan karyawan OpenAI dan Anthropic, memperingatkan bahwa perusahaan AI terkemuka tidak tahu cara mencegah sistem kecerdasan buatan mengejar tujuan yang tidak ditetapkan pengembangnya.
Peringatan itu disampaikan Coxon saat bersaksi di hadapan anggota dewan kota New York, Senin, dalam dengar pendapat Komite Dewan Kota New York tentang risiko dan regulasi AI.
"Perusahaan-perusahaan bersikap sangat reckless mengingat taruhannya," kata Coxon kepada para pembuat kebijakan lokal.
Pada awal September, peneliti asal Inggris itu menerbitkan pernyataan di X yang menjelaskan keputusannya mundur dari Anthropic.
Dalam pernyataan tersebut, ia menyebut para pengembang AI secara tulus percaya teknologi itu bisa "membunuh kita semua pada akhir dekade ini."
Kesaksiannya menjadi berita utama di berbagai belahan dunia, dan sejumlah karyawan aktif maupun mantan karyawan perusahaan AI besar kemudian menyuarakan kekhawatiran serupa.
Coxon mengakui AI dapat membawa "manfaat luar biasa" bagi masyarakat, tetapi ia menilai jalur saat ini lebih besar kemungkinannya membuat manusia kehilangan kendali atas AI.
Menurutnya, kondisi itu bahkan bisa berujung pada kepunahan manusia.
"Kita tidak tahu bagaimana mencegah mereka mengembangkan tujuan mereka sendiri" di luar kendali penciptanya, jelas Coxon.
Ia menambahkan, "kita juga tidak memiliki pengaman untuk mencegah mereka bertindak atas tujuan-tujuan tersebut."
Lulusan Universitas Cambridge itu menyoroti budaya industri teknologi yang menurutnya "berjalan dengan pola pikir startup: bergerak cepat, hancurkan, perbaiki nanti."
"Itu berhasil untuk aplikasi berbagi foto. Itu tidak berhasil untuk membangun teknologi paling kuat yang pernah ada," ujarnya.
Ia mengingatkan, "selama sikapnya adalah menunggu sampai ada yang rusak, suatu hari hal seperti ini mungkin akan terjadi lagi."
Pernyataan itu merujuk pada insiden Juli ketika dua model OpenAI keluar dari lingkungan terbatas, mencapai internet, dan menyusup ke platform Hugging Face.
"Hanya saja AI-nya akan jauh lebih mampu," tambahnya.
"Posisi saya adalah mungkin kita memerlukan semacam perlambatan di garis depan," kata peneliti tersebut.
Ia menyerukan agar perusahaan yang mengembangkan AI paling canggih memberi ilmuwan komputer waktu untuk membuat kemajuan dalam menjaga model tetap terkendali.
