Laporan itu menyebut kemungkinan, sifat, dan waktu risiko tersebut sebagai sangat ambigu.
Sejumlah pihak menekankan perlunya pengamanan AI sebelum terlambat.
Seorang peneliti Anthropic pekan lalu mengatakan ia mengundurkan diri dari perusahaan itu karena khawatir perusahaan maupun pesaingnya tidak bertindak bertanggung jawab dalam mengembangkan teknologi tersebut.
Dalam unggahan media sosial, Jacob Coxon memperkirakan ada peluang 10 persen AI menyebabkan kepunahan manusia dalam dekade berikutnya.
Ia menilai Anthropic dan OpenAI sama-sama berlomba menuju superinteligensi yang mampu memperbaiki diri dan mempertaruhkan hidup manusia.
Para peneliti menyerukan perlambatan pengembangan AI dan bertahun-tahun memperingatkan bahwa teknologi itu bisa menimbulkan risiko eksistensial bagi manusia.
Setelah insiden terbaru, para ahli menyerukan pengujian yang lebih baik oleh perusahaan AI dan dialog lebih banyak antara Amerika Serikat dan China untuk mencari solusi bersama.
Namun AI tumbuh begitu cepat sehingga pemerintah dan sistem evaluasi kesulitan mengikuti laju teknologi.
Negara-negara menyusun undang-undang mereka sendiri, sebagian saling bertentangan.
Pemimpin China Xi Jinping memperingatkan pada konferensi Juli tentang perlunya mencegah AI lepas dari kendali manusia.
Pemerintahan Trump awalnya menunjukkan keengganan mengatur AI, tetapi menjadi lebih ingin mengurangi risiko keamanan siber.
Pada Minggu, Presiden Trump meremehkan kebutuhan pemerintahannya memeriksa pengembangan AI, tetapi mengakui perlunya sejumlah regulasi.
