“Tetapi mereka merasa perusahaan mereka terjebak dalam perlombaan membangun superintelligence: entah berhenti dan orang lain yang kurang berhati-hati mengambil tempat mereka; atau melanjutkan dan berisiko ikut serta dalam bahaya besar.”
Hal itu menyusul pengunduran diri Jacob Coxon yang menyita perhatian pada awal pekan.
Ia menyatakan Anthropic dan OpenAI “berlomba langsung menuju superintelligence yang memperbaiki diri sendiri dan mempertaruhkan hidup kita.”
Pernyataan itu menyulut industri setelah kekhawatiran bertahun-tahun tentang kemungkinan superintelligence yang lepas dari kendali manusia, kata Presiden dan CEO Future of Life Institute, Anthony Aguirre.
Lembaga itu pada 2023 menyerukan jeda enam bulan bagi pengembangan industri.
“Mereka menyadari, para karyawan mereka menyadari, semua orang menyadari bahwa mereka sedang membangun Skynet,” ujarnya.
“Dan dalam memenangkan perlombaan menuju Skynet, tidak ada yang menang. Sungguh, tidak ada.”
“Sudah cukup jelas bagi dunia dan bahkan perusahaan AI bahwa mereka tidak benar-benar siap mengendalikan sistem AI yang mereka perlombakan untuk diciptakan.”
Ancaman AI yang sudah tampak
Anthropic dua hari sebelumnya menyatakan memblokir upaya pihak jahat menggunakan model AI mereka untuk aktivitas berbahaya, seperti serangan siber, pengawasan, dan riset yang bisa mengarah pada senjata biologis.
Pada Juli, OpenAI mengguncang industri setelah menyatakan sistem AI-nya meretas perusahaan lain atas kemauannya sendiri dalam “insiden siber yang belum pernah terjadi sebelumnya.”
Kepala hak asasi manusia PBB, Volker Türk, pekan ini mendesak negara-negara menempatkan “jaminan kokoh terkait keselamatan dan keamanan AI sebelum terlambat.”
Sejumlah kritikus menepis peringatan semacam itu sebagai cara membangkitkan kegairahan terhadap industri AI dan kemampuannya.
