CEO Anthropic Dario Amodei menilai industri kecerdasan buatan perlu memperlambat laju pengembangan agar langkah keselamatan memiliki waktu untuk mengejar.
Tanpa perlambatan itu, ia memperingatkan bahwa dalam enam hingga 12 bulan AI bisa mampu memimpin sekumpulan agen yang mengambil alih seluruh internet.
Peringatan tersebut muncul ketika kekhawatiran tentang AI tumbuh di dalam maupun di luar industri.
Laporan terus bermunculan tentang sistem yang makin kuat, mampu memecahkan masalah di luar kapasitas manusia, tetapi juga berpotensi menyimpang dan menjalankan tugas berbahaya.
Kekhawatiran itu cukup lantang sehingga CEO OpenAI, perusahaan di balik ChatGPT, menyatakan dalam wawancara dengan Fortune bahwa perusahaannya akan menunggu hingga tahun depan untuk mulai menjual sahamnya kepada investor di Wall Street.
Langkah itu diambil sembari memfokuskan perhatian pada keselamatan.
Amodei termasuk suara terdepan di bidang AI dan menawarkan rencana melalui unggahan di situs webnya untuk meningkatkan pengawasan terhadap industri.
Ia menyebut Anthropic sudah menjalankan salah satu bagian rencana itu sendiri, sementara bagian lain memerlukan koordinasi lintas industri dan dengan pemerintah di seluruh dunia, termasuk pemerintah otoriter.
“Saya percaya bahwa jika perlambatan memberi kita tambahan satu atau dua tahun sebelum model mencapai tingkat kemampuan kritis, dan waktu itu digunakan untuk memajukan alignment, kita bisa sangat mengurangi risiko sesuatu yang serius terjadi,” kata Amodei.
Tekanan terhadap industri AI
Pengawas telah mendesak industri AI selama bertahun-tahun untuk memperlambat pengembangan demi alasan keselamatan.
Namun tekanan makin besar ketika sejumlah pekerja industri mengundurkan diri dan menuduh perusahaan mereka tidak bertindak bertanggung jawab.
“Banyak orang yang saya kenal bekerja pada riset keselamatan di perusahaan AI ingin melakukan hal yang benar bagi dunia,” kata mantan karyawan Anthropic, Joe Benton, dalam unggahan Jumat yang mengumumkan pengunduran dirinya dari tim keselamatan.
