Sam Altman tidak berpura-pura bahwa AI akan selalu aman.
Dalam acara Dreamforce milik Salesforce, CEO OpenAI itu menyatakan sejumlah kecelakaan pada teknologi baru memang tidak bisa dihindari.
Menurut dia, yang paling penting adalah cara industri merespons saat insiden terjadi. Ia menekankan perlunya budaya pelaporan dan pembelajaran dari setiap kecelakaan.
Altman mencontohkan Federal Aviation Administration dan National Transportation Safety Board.
Kedua lembaga itu menyelidiki setiap insiden secara mendalam, dan budaya belajar tersebut dinilainya menjadi alasan penerbangan modern begitu aman.
Kekhawatiran publik dan dorongan memperlambat riset
Pernyataan itu muncul ketika laboratorium AI terkemuka semakin diawasi publik. Sistem AI dinilai makin mendekati tingkat otonomi yang lebih besar.
Debat tersebut ikut dipanaskan oleh komentar Jacob Coxon, peneliti yang baru meninggalkan Anthropic setelah sebelumnya bekerja di OpenAI.
Ia memperingatkan bahwa perusahaan-perusahaan berlomba menuju superinteligensi yang mampu memperbaiki dirinya sendiri.
Altman tidak mengabaikan kekhawatiran itu.
Ia menilai kecemasan publik soal AI yang lepas kendali atau kekuatan yang terlalu terpusat di sedikit laboratorium sangat bisa dipahami.
"Dunia memang benar merasa takut akan hal ini," ujarnya.
Alih-alih menghentikan semuanya, Altman berargumen perusahaan perlu menjaga kerja pada alignment, keamanan, dan pemantauan tetap jauh di depan kemajuan kemampuan model.
Jika keseimbangan itu tidak bisa dijaga, ia menyatakan perusahaan harus siap memperlambat bahkan menghentikan riset.
Intinya bukan menerima bencana, melainkan jujur saat ada yang salah, meninjau cepat, dan terus memperbaiki agar risiko tidak membesar.
Pernyataan ini masuk dalam percakapan yang lebih luas soal seberapa cepat AI frontier harus bergerak.
Sebagian suara industri menyerukan kehati-hatian, sementara kebijakan AS di bawah pemerintahan saat ini berfokus menjaga keunggulan teknologi.
