Anthropic dan OpenAI bersiap menghadapi kemungkinan debut di pasar saham yang dapat menghargai mereka ratusan miliar dolar.
Sebagian besar bisnis SpaceX milik Elon Musk juga terlibat dalam AI.
CEO OpenAI Sam Altman dalam wawancara dengan Fortune yang diterbitkan Sabtu mengatakan perusahaannya tidak akan meluncurkan penawaran umum perdana saham tahun ini.
“Saya akan bilang bukan 2026,” katanya.
“Ya, ada banyak hal yang harus kami lakukan, seperti memenuhi momen ini terkait apa yang dibutuhkan untuk keselamatan dan alignment, serta bagaimana industri dan pemerintah dapat bekerja sama.”
Altman mengunggah di X tak lama setelah Amodei menerbitkan sarannya bahwa OpenAI akan berkomitmen pada salah satu proposal keselamatan Amodei dan akan “berbagi lebih banyak segera.”
Musk menyatakan di X bahwa “Dario benar.”
Amodei mengatakan masih percaya pada manfaat besar yang bisa diciptakan AI, seperti obat untuk penyakit utama.
Namun ia mengaku makin khawatir dalam beberapa bulan terakhir tentang kemampuan AI memperbaiki diri dan membangun generasi AI berikutnya.
“Jika dibiarkan tanpa kendali, itu bisa melampaui kemampuan kita memahami dan mengendalikan sistem ini, sehingga harus dijalankan dengan sangat hati-hati, jika memang harus.”
Ia juga menyoroti serangan pada Juli ketika sistem OpenAI meretas Hugging Face.
Sebagian menyebutnya contoh AI menjadi “liar,” meski peneliti menilai itu terlalu mengantropomorfiskan AI yang bekerja pada tujuan yang ditetapkan manusia.
OpenAI menyatakan peretasan itu akibat AI menempuh “cara ekstrem untuk mencapai tujuan pengujian yang sempit” dan “menemukan cara mengakses informasi rahasia yang bisa dipakai untuk mencurangi evaluasi.”
Untuk menahan risiko, Amodei menyarankan semua perusahaan di garis depan AI berkomitmen memberikan “akses berkelanjutan seperti karyawan” kepada tim evaluator eksternal yang dapat memantau praktik keselamatan.
