Anthropic mengungkap sejumlah operasi pengawasan yang disponsori negara dan menggunakan model kecerdasan buatan miliknya. Perusahaan itu menyatakan telah menghentikan kasus-kasus tersebut.
Insiden tersebut ditemukan dan digagalkan antara Januari dan Juli. Operasi itu berasal dari China, Iran, dan Afrika Barat.
Anthropic menyampaikan temuan ini dalam laporan tentang penyalahgunaan modelnya.
Perusahaan memperingatkan bahwa pemerintah dan aktor yang berafiliasi dengan negara semakin sering memakai AI untuk memata-matai kelompok minoritas etnis dan disiden.
Menurut laporan itu, kampanye pengawasan tersebut menargetkan komunitas diaspora dan disiden yang secara historis menjadi sasaran rezim terkait.
Targetnya meliputi tokoh prodemokrasi di Hong Kong, komunitas Tibet dan Falun Gong di Asia, serta komunitas minoritas Iran dan penentang rezim Iran di luar negeri.
Dalam salah satu kasus, aktor Iran mengembangkan cara untuk mengidentifikasi orang melalui akun media sosial mereka.
Pada kasus lain, seorang kontraktor yang bekerja untuk otoritas keamanan nasional Mali menggunakan Claude untuk merancang perangkat lunak yang memungkinkan pengumpulan intelijen.
Laporan itu menyebut AI kini digunakan sebagai pengganti tenaga kerja teknik. Anthropic juga menggagalkan upaya pengguna merancang senjata, melakukan riset biologis yang meragukan, dan membuat penipuan kencan.
Penyalahgunaan Claude oleh Pengembang China
Anthropic menuduh pengembang China secara menyesatkan menggunakan Claude untuk menghasilkan jawaban atas permintaan pengguna. Mereka sekaligus melakukan distilasi data untuk meningkatkan model mereka sendiri.
Distilasi adalah istilah industri untuk proses ketika satu model AI dipakai melatih model lain. Pengembang China sebelumnya pernah dituduh memakai teknik itu tanpa izin.
Kini Anthropic menuding Moonshot dan Deepseek dari China juga diam-diam memakai Claude untuk menghasilkan jawaban yang diberikan kepada pengguna mereka.
Dalam satu kasus, selama sepuluh hari, Moonshot meneruskan hampir 300.000 permintaan pelanggan kepada Anthropic melalui jaringan 5.380 akun palsu.
Sebagian besar akun itu tampak berlokasi di Singapura dan Jepang. Sebagian data tersebut memuat informasi pengguna yang sensitif dan berpotensi melanggar perjanjian privasi.
Anthropic menyatakan tidak mengetahui apakah Moonshot memberi tahu pelanggannya bahwa permintaan mereka dialihkan ke Anthropic dan terekspos ke pihak ketiga.
Deepseek disebut memakai teknik serupa.
Untuk riset yang dideteksi dan diblokir terkait senjata biologis, niat para aktor kurang jelas dan Anthropic tidak mengidentifikasi mereka.
Laporan itu menyebut individu yang terlibat adalah ilmuwan yang bekerja dan tidak berasumsi mereka berniat mencelakai.
Riset ilmiah dalam kasus tersebut melibatkan virus chikungunya yang ditularkan nyamuk, galur flu burung yang sangat patogen, keluarga virus yang mencakup cacar dan mpox, bisa, serta racun lain.
