Anthropic menyatakan model Claude kini turut membantu perusahaan mengembangkan versi model yang lebih cerdas. Pengumuman itu disampaikan laboratorium kecerdasan buatan tersebut pada Kamis.
Claude memimpin 26 persen riset dan pengembangan model Anthropic.
Menurut perusahaan, kemampuan itu berarti Claude dapat menyelesaikan sebagian besar tugas dari perintah tingkat tinggi secara end-to-end, meski tetap dalam pengawasan manusia.
Model tersebut belum bekerja sepenuhnya otonom.
Namun sekitar 90 persen riset dan pengembangan perusahaan dilakukan dalam kolaborasi dengan Claude, yang menurut Anthropic berarti model dapat mengerjakan bagian besar pekerjaan di bawah arahan manusia yang ketat.
Dorongan transparansi di tengah seruan memperlambat AI
Pengumuman ini muncul saat sejumlah tokoh terkemuka di bidang AI, terutama CEO Anthropic Dario Amodei, menyerukan perlambatan pengembangan teknologi karena kekhawatiran keselamatan.
Anthropic menilai publik perlu mengetahui sejauh mana laboratorium frontier mengembangkan teknologi ini.
Dalam sebuah posting blog, perusahaan menyatakan pihaknya harus melakukan segala upaya untuk meminimalkan kesenjangan antara apa yang diketahui laboratorium frontier dan apa yang diketahui publik.
Langkah itu mencakup pengukuran perkembangan AI yang lebih baik, pelaporan publik, dan memberi masyarakat kesempatan menentukan cara menggunakan informasi tersebut.
Anthropic menyebut model yang mempercepat pengembangannya sendiri dapat membuat manusia lebih sulit memahami atau mengendalikan sistem tersebut.
Perusahaan berargumen bahwa berbagi metrik semacam itu dapat meningkatkan pemahaman tentang seberapa dekat laboratorium AI terkemuka mencapai recursive self-improvement, yakni kemampuan model membangun penerusnya secara otonom.
Anthropic juga mendesak pengembang AI lain untuk rutin membagikan metrik serupa.
Perusahaan mendorong penggunaan metodologi publik agar angka-angka tersebut dapat dibandingkan dari waktu ke waktu dan berpotensi lintas laboratorium.
Belum jelas dari pengungkapan Anthropic seberapa dekat perusahaan menilai dirinya mencapai recursive self-improvement. Namun laju kontribusi Claude terhadap riset dan pengembangan tercatat signifikan.
Porsi pekerjaan yang dipimpin Claude, atau dikerjakan sebagian besar di bawah pengawasan manusia, tidak ada pada Februari.
Enam bulan kemudian, Claude memimpin seperempat pekerjaan riset dan pengembangan, mencapai tolok ukur itu pada Agustus.
Perusahaan juga membagikan rincian langkah pengawasan agen yang dimilikinya. Tercatat sekitar 30.000 agen melakukan pekerjaan riset dan rekayasa hingga Agustus.
Langkah pengawasan dinilai penting untuk melihat seberapa sering perilaku menyimpang agen terdeteksi oleh sistem pemantauan.
Anthropic baru-baru ini berkomitmen menempatkan evaluator pihak ketiga eksternal yang akan ditempatkan di dalam perusahaan untuk memantau upaya keselamatan.
Seorang peneliti Anthropic memicu sebagian besar dialog terkini soal keselamatan AI ketika ia mengundurkan diri pekan lalu dengan peringatan keras tentang ancaman teknologi itu bagi umat manusia.
Amodei, CEO OpenAI Sam Altman, Elon Musk, dan sejumlah pemimpin teknologi lain sejak itu mendukung gagasan memperlambat pengembangan, tetapi pemimpin teknologi lain dan Presiden Donald Trump menolak.
