Signal mengumumkan pembatasan fitur screenshot untuk mencegah agen AI membaca percakapan pribadi di ponsel.
Layanan pesan terenkripsi itu menilai dorongan industri teknologi menanamkan AI ke perangkat konsumen kian menggerus jaminan privasi.
Langkah ini disampaikan Signal sebagai respons atas maraknya agen AI yang dirancang melihat isi layar pengguna dan bertindak berdasarkan informasi tersebut.
Signal memandang tren itu sebagai ancaman serius bagi aplikasi yang mengutamakan kerahasiaan.
Signal menyebut perlindungan barunya masih "tidak lengkap".
Perusahaan mendesak penyedia sistem operasi—Apple, Google, dan Microsoft—memberi pengembang aplikasi cara konkret memblokir agen AI mengakses data sensitif.
Signal juga meminta ketiga perusahaan transparan soal cara kerja agen AI mereka. Menurut Signal, pengembang perlu mengetahui data apa yang diakses bot agar bisa menyesuaikan sistemnya.
Ancaman dari Integrasi AI di Sistem Operasi
Signal menyoroti kemampuan AI yang tertanam langsung di sistem operasi, seperti Siri AI dari Apple dan Gemini Intelligence dari Google.
Keduanya dinilai sangat terintegrasi ke perangkat sehingga sulit dibendung.
Dalam tulisan di blog yang ditandatangani Presiden Signal Meredith Whittaker, perusahaan menyatakan sistem operasi adalah lingkungan tempat Signal dan aplikasi lain beroperasi.
Integrasi agen AI disebut mengubah lingkungan itu menjadi makin tidak ramah privasi.
Signal menyebut kondisi tersebut sebagai ancaman eksistensial bagi misinya menjaga kerahasiaan pengguna secara bertanggung jawab.
Untuk mencegah agen memindai pesan, Signal memperkenalkan pengaturan baru yang memblokir akses screenshot di ponsel. Pembatasan itu diaktifkan secara default.
Pengguna akan menerima jendela pop-up berisi opsi menonaktifkan blokir ketika Signal mendeteksi upaya screenshot atau akses asisten AI ke layar, tergantung perangkat.
Sebelumnya, Signal juga memblokir Recall AI milik Microsoft agar tidak mengambil screenshot di Windows.
Signal mengaku belum bisa menyediakan perlindungan serupa secara andal di macOS milik Apple. Apple, Google, dan Microsoft belum memberikan tanggapan atas permintaan komentar terkait langkah Signal.
Celah yang Bisa Ditembus Agen AI
Agen AI yang mampu bertindak atas nama pengguna dipromosikan sebagai gelombang teknologi berikutnya.
Kemampuannya mencakup menampilkan informasi dari berbagai aplikasi hingga mengerjakan tugas seperti membalas email, memesan janji, dan berbelanja online secara otonom.
Namun, jangkauan itu bisa menembus perlindungan yang dibangun aplikasi seperti Signal.
Reuters melaporkan agen Muse milik Meta mampu melewati alat "Connector" resminya untuk mengakses pesan Signal di komputer Apple dan ponsel Android.
Dalam kedua kasus, Muse memakai izin tingkat sistem operasi yang diberikan saat pengaturan awal aplikasi untuk menarik pesan.
Izin itu dimanfaatkan dengan cara yang mungkin tidak disadari pengguna.
Di macOS, Muse menggunakan kombinasi alat aksesibilitas dan screenshot untuk membuka Signal, mengambil gambar percakapan, mengekstrak teks, lalu menampilkannya di aplikasi Muse.
Pembaruan sistem operasi Apple pekan ini menutup jalur tersebut, tetapi memperkenalkan izin baru untuk agen dengan kemampuan serupa plus peringatan tambahan bagi pengguna.
Meta menanggapi laporan Reuters dengan menyatakan agen perlu melihat dan berinteraksi dengan komputer pengguna agar bisa bekerja.
Meta menegaskan Muse hanya mengakses aplikasi lain melalui izin yang diberikan pengguna secara eksplisit.
Signal menilai pengembang semestinya punya cara mudah mengeluarkan aplikasi mereka dari pemrosesan data oleh asisten AI. Signal secara khusus menyebut pembacaan layar, notifikasi, dan akses sistem file.
Signal dikelola yayasan nirlaba dan menjanjikan pengalaman pesan aman dengan membatasi data yang disimpan di server sendiri, tanpa iklan, serta enkripsi ujung ke ujung.
Sistem AI yang memindai layar dapat melemahkan perlindungan itu dengan menarik pesan keluar dari lingkungan aman Signal ke server agen.