Kedua perusahaan belum menanggapi permintaan komentar dari AFP.
Para pemimpin AI mengatakan apa yang disebut 'peningkatan diri secara rekursif'—tahap di mana sistem AI dapat merancang dan melatih generasi AI berikutnya dengan sedikit keterlibatan manusia—sudah dekat.
Coxon menganggap upaya Anthropic tulus, tetapi ia yakin tidak ada perusahaan yang dapat mengembangkan AI yang melampaui manusia secara bertanggung jawab tanpa intervensi pemerintah atau perlambatan yang terkoordinasi.
"Di Anthropic, risikonya dipahami dengan baik, tetapi mereka terkunci dalam perlombaan untuk menjadi yang pertama—mereka percaya tidak ada orang lain yang akan bertindak bertanggung jawab, jadi mereka harus melakukannya sendiri, meskipun ada risiko," ujarnya.
Pada bulan Februari, Anthropic menghapus janji dari piagam keselamatannya untuk menghentikan pengembangan model jika gagal mengendalikan risikonya.
Perusahaan beralasan bahwa jika secara sepihak berhenti, pesaing yang kurang hati-hati akan mendominasi industri, sehingga secara keseluruhan menjadi kurang aman.
Pada akhir Juli, lebih dari 1.000 karyawan industri teknologi, termasuk CEO Anthropic Dario Amodei, mendesak Washington untuk mendukung perlambatan terkoordinasi dalam pengembangan sistem AI paling canggih.
OpenAI menghentikan pelatihan model terbarunya selama dua minggu pada bulan Agustus sebelum melanjutkannya dengan kontrol yang lebih ketat.
Pada hari Minggu, kepala ilmuwan OpenAI, Jakub Pachocki, menyerukan 'kewaspadaan ekstrem'.
"Koordinasi internasional untuk pengembangan AI di masa depan harus menjadi prioritas utama bagi pemerintah di seluruh dunia," tulisnya dalam sebuah posting blog.
Model AI tidak diatur oleh hukum federal di Amerika Serikat.
Pada bulan September, Senator Bernie Sanders dan Perwakilan Demokrat Greg Casar mengajukan rancangan undang-undang yang bertujuan untuk menangguhkan pengembangan AI sampai regulator federal dibentuk.
