Anthropic mengungkap sejumlah operasi pengawasan yang disponsori negara dan menggunakan model kecerdasan buatan miliknya. Perusahaan itu menyatakan telah menghentikan kasus-kasus tersebut.
Insiden tersebut ditemukan dan digagalkan antara Januari dan Juli. Operasi itu berasal dari China, Iran, dan Afrika Barat.
Anthropic menyampaikan temuan ini dalam laporan tentang penyalahgunaan modelnya.
Perusahaan memperingatkan bahwa pemerintah dan aktor yang berafiliasi dengan negara semakin sering memakai AI untuk memata-matai kelompok minoritas etnis dan disiden.
Menurut laporan itu, kampanye pengawasan tersebut menargetkan komunitas diaspora dan disiden yang secara historis menjadi sasaran rezim terkait.
Targetnya meliputi tokoh prodemokrasi di Hong Kong, komunitas Tibet dan Falun Gong di Asia, serta komunitas minoritas Iran dan penentang rezim Iran di luar negeri.
Dalam salah satu kasus, aktor Iran mengembangkan cara untuk mengidentifikasi orang melalui akun media sosial mereka.
Pada kasus lain, seorang kontraktor yang bekerja untuk otoritas keamanan nasional Mali menggunakan Claude untuk merancang perangkat lunak yang memungkinkan pengumpulan intelijen.
Laporan itu menyebut AI kini digunakan sebagai pengganti tenaga kerja teknik. Anthropic juga menggagalkan upaya pengguna merancang senjata, melakukan riset biologis yang meragukan, dan membuat penipuan kencan.
Penyalahgunaan Claude oleh Pengembang China
Anthropic menuduh pengembang China secara menyesatkan menggunakan Claude untuk menghasilkan jawaban atas permintaan pengguna. Mereka sekaligus melakukan distilasi data untuk meningkatkan model mereka sendiri.
Distilasi adalah istilah industri untuk proses ketika satu model AI dipakai melatih model lain. Pengembang China sebelumnya pernah dituduh memakai teknik itu tanpa izin.
