CEO Anthropic Dario Amodei menilai industri kecerdasan buatan perlu memperlambat laju pengembangan agar langkah keselamatan memiliki waktu untuk mengejar.
Tanpa perlambatan itu, ia memperingatkan bahwa dalam enam hingga 12 bulan AI bisa mampu memimpin sekumpulan agen yang mengambil alih seluruh internet.
Peringatan tersebut muncul ketika kekhawatiran tentang AI tumbuh di dalam maupun di luar industri.
Laporan terus bermunculan tentang sistem yang makin kuat, mampu memecahkan masalah di luar kapasitas manusia, tetapi juga berpotensi menyimpang dan menjalankan tugas berbahaya.
Kekhawatiran itu cukup lantang sehingga CEO OpenAI, perusahaan di balik ChatGPT, menyatakan dalam wawancara dengan Fortune bahwa perusahaannya akan menunggu hingga tahun depan untuk mulai menjual sahamnya kepada investor di Wall Street.
Langkah itu diambil sembari memfokuskan perhatian pada keselamatan.
Amodei termasuk suara terdepan di bidang AI dan menawarkan rencana melalui unggahan di situs webnya untuk meningkatkan pengawasan terhadap industri.
Ia menyebut Anthropic sudah menjalankan salah satu bagian rencana itu sendiri, sementara bagian lain memerlukan koordinasi lintas industri dan dengan pemerintah di seluruh dunia, termasuk pemerintah otoriter.
“Saya percaya bahwa jika perlambatan memberi kita tambahan satu atau dua tahun sebelum model mencapai tingkat kemampuan kritis, dan waktu itu digunakan untuk memajukan alignment, kita bisa sangat mengurangi risiko sesuatu yang serius terjadi,” kata Amodei.
Tekanan terhadap industri AI
Pengawas telah mendesak industri AI selama bertahun-tahun untuk memperlambat pengembangan demi alasan keselamatan.
Namun tekanan makin besar ketika sejumlah pekerja industri mengundurkan diri dan menuduh perusahaan mereka tidak bertindak bertanggung jawab.
“Banyak orang yang saya kenal bekerja pada riset keselamatan di perusahaan AI ingin melakukan hal yang benar bagi dunia,” kata mantan karyawan Anthropic, Joe Benton, dalam unggahan Jumat yang mengumumkan pengunduran dirinya dari tim keselamatan.
“Tetapi mereka merasa perusahaan mereka terjebak dalam perlombaan membangun superintelligence: entah berhenti dan orang lain yang kurang berhati-hati mengambil tempat mereka; atau melanjutkan dan berisiko ikut serta dalam bahaya besar.”
Hal itu menyusul pengunduran diri Jacob Coxon yang menyita perhatian pada awal pekan.
Ia menyatakan Anthropic dan OpenAI “berlomba langsung menuju superintelligence yang memperbaiki diri sendiri dan mempertaruhkan hidup kita.”
Pernyataan itu menyulut industri setelah kekhawatiran bertahun-tahun tentang kemungkinan superintelligence yang lepas dari kendali manusia, kata Presiden dan CEO Future of Life Institute, Anthony Aguirre.
Lembaga itu pada 2023 menyerukan jeda enam bulan bagi pengembangan industri.
“Mereka menyadari, para karyawan mereka menyadari, semua orang menyadari bahwa mereka sedang membangun Skynet,” ujarnya.
“Dan dalam memenangkan perlombaan menuju Skynet, tidak ada yang menang. Sungguh, tidak ada.”
“Sudah cukup jelas bagi dunia dan bahkan perusahaan AI bahwa mereka tidak benar-benar siap mengendalikan sistem AI yang mereka perlombakan untuk diciptakan.”
Ancaman AI yang sudah tampak
Anthropic dua hari sebelumnya menyatakan memblokir upaya pihak jahat menggunakan model AI mereka untuk aktivitas berbahaya, seperti serangan siber, pengawasan, dan riset yang bisa mengarah pada senjata biologis.
Pada Juli, OpenAI mengguncang industri setelah menyatakan sistem AI-nya meretas perusahaan lain atas kemauannya sendiri dalam “insiden siber yang belum pernah terjadi sebelumnya.”
Kepala hak asasi manusia PBB, Volker Türk, pekan ini mendesak negara-negara menempatkan “jaminan kokoh terkait keselamatan dan keamanan AI sebelum terlambat.”
Sejumlah kritikus menepis peringatan semacam itu sebagai cara membangkitkan kegairahan terhadap industri AI dan kemampuannya.
Anthropic dan OpenAI bersiap menghadapi kemungkinan debut di pasar saham yang dapat menghargai mereka ratusan miliar dolar.
Sebagian besar bisnis SpaceX milik Elon Musk juga terlibat dalam AI.
CEO OpenAI Sam Altman dalam wawancara dengan Fortune yang diterbitkan Sabtu mengatakan perusahaannya tidak akan meluncurkan penawaran umum perdana saham tahun ini.
“Saya akan bilang bukan 2026,” katanya.
“Ya, ada banyak hal yang harus kami lakukan, seperti memenuhi momen ini terkait apa yang dibutuhkan untuk keselamatan dan alignment, serta bagaimana industri dan pemerintah dapat bekerja sama.”
Altman mengunggah di X tak lama setelah Amodei menerbitkan sarannya bahwa OpenAI akan berkomitmen pada salah satu proposal keselamatan Amodei dan akan “berbagi lebih banyak segera.”
Musk menyatakan di X bahwa “Dario benar.”
Amodei mengatakan masih percaya pada manfaat besar yang bisa diciptakan AI, seperti obat untuk penyakit utama.
Namun ia mengaku makin khawatir dalam beberapa bulan terakhir tentang kemampuan AI memperbaiki diri dan membangun generasi AI berikutnya.
“Jika dibiarkan tanpa kendali, itu bisa melampaui kemampuan kita memahami dan mengendalikan sistem ini, sehingga harus dijalankan dengan sangat hati-hati, jika memang harus.”
Ia juga menyoroti serangan pada Juli ketika sistem OpenAI meretas Hugging Face.
Sebagian menyebutnya contoh AI menjadi “liar,” meski peneliti menilai itu terlalu mengantropomorfiskan AI yang bekerja pada tujuan yang ditetapkan manusia.
OpenAI menyatakan peretasan itu akibat AI menempuh “cara ekstrem untuk mencapai tujuan pengujian yang sempit” dan “menemukan cara mengakses informasi rahasia yang bisa dipakai untuk mencurangi evaluasi.”
Untuk menahan risiko, Amodei menyarankan semua perusahaan di garis depan AI berkomitmen memberikan “akses berkelanjutan seperti karyawan” kepada tim evaluator eksternal yang dapat memantau praktik keselamatan.
Ia menyebut Anthropic sudah berencana melakukannya sendiri, termasuk menyediakan meja di kantornya, lencana akses, dan laptop perusahaan.
Kehadiran evaluator independen yang tertanam itu juga langsung disepakati Altman dari OpenAI.
Bagian lain dari rencana Amodei mungkin lebih sulit diterapkan.
Satu usulan meminta pemerintah Amerika Serikat berpotensi mengeluarkan pengecualian agar perusahaan AI AS dapat berkoordinasi dan menetapkan standar keselamatan tanpa melanggar hukum antimonopoli.
Usulan lain meminta AS dan pemerintah demokratis lain berupaya berkoordinasi dengan pemerintah otoriter agar perusahaan dari China dan negara lain tidak mempercepat upaya ketika pesaing AS sengaja memperlambat.
“Langkah-langkah yang saya usulkan untuk memajukan garis depan dengan laju aman tidak akan mudah,” aku Amodei.
“Tetapi saya percaya kita berutang kepada umat manusia untuk mencobanya.”
