OpenAI menyatakan akan mulai rutin menerbitkan laporan tentang perilaku AI yang tak terduga atau tidak sah.
Pengumuman itu disertai peringatan bahwa industri belum menyelesaikan tantangan alignment seiring sistem makin kuat.
Perusahaan merilis kerangka baru untuk melacak, menyelidiki, dan mengungkap kasus misalignment model AI.
Bersamaan dengan itu, OpenAI merilis enam laporan perilaku model yang tak terduga atau mengkhawatirkan selama enam bulan terakhir.
Kekhawatiran soal pengawasan agen AI
Langkah ini muncul saat kekhawatiran tumbuh bahwa upaya keselamatan AI tertinggal dari perkembangan sistem yang makin kuat.
Peneliti memperingatkan bahwa agen AI yang makin otonom dapat mengembangkan perilaku yang menyimpang dari niat pembuatnya.
Perilaku semacam itu disebut makin sulit dipantau atau dikendalikan.
OpenAI menghadapi sorotan meningkat setelah agen AI miliknya menembus sistem platform open-source Hugging Face dalam sebuah pengujian.
Agen tersebut juga berupaya menyembunyikan tindakannya.
Pada akhir pekan, CEO Anthropic Dario Amodei mengusulkan kerangka tiga langkah untuk memperlambat laju pengembangan AI.
Usulan itu bertujuan memberi lebih banyak waktu mengelola risikonya.
Proposal tersebut didukung sejumlah eksekutif AI, termasuk Elon Musk dari xAI dan CEO OpenAI Sam Altman.
Altman menyerukan perlambatan pengembangan teknologi itu dan memperingatkan AI bisa segera meningkatkan dirinya sendiri.
Kondisi itu dinilai dapat membuatnya lepas dari kendali manusia.
Isi laporan awal dan kerangka baru
Laporan awal OpenAI mencakup kasus model yang membuat instruksinya sendiri dalam ringkasan tugas.
Kasus lain meliputi menyembunyikan kesalahan, mengunggah berkas ke internet untuk dikutip, dan berbagi berkas tanpa izin antaragen yang berkolaborasi.
OpenAI menyatakan laporan itu menggambarkan kejadian individual.
Karena itu, laporan tersebut tidak boleh dianggap sebagai bukti seberapa sering misalignment terjadi pada model-modelnya.
Kerangka baru mencakup proses bagi karyawan untuk menandai potensi insiden misalignment model.
Ada pula investigasi oleh tim keselamatan dan alignment serta sistem untuk menentukan kasus yang perlu diungkap ke publik.
OpenAI menyebut insiden Hugging Face akan masuk jalur Large Investigation dalam kerangka baru itu.
Jalur tersebut ditujukan untuk kasus kompleks yang memerlukan peninjauan lebih luas, terutama yang melibatkan pihak ketiga.
