Platform komunikasi populer Discord mengakui adanya bug serius pada sistem moderasi berbasis kecerdasan buatan (AI).
Bug ini menyebabkan lebih dari 8.000 akun pengguna diblokir secara permanen tanpa alasan yang valid.
Insiden terjadi antara Mei 2026 hingga pertengahan Juli 2026. Kasus ini terungkap setelah pengguna media sosial X bernama tallcowyt membagikan temuannya tentang celah sistem yang mengejutkan.
Akun-akun tersebut diblokir hanya karena mengunggah gambar dengan pola kotak-kotak, seperti tangkapan layar dari Minecraft, foto papan catur, atau ilustrasi geometris sederhana.
Sistem AI Discord salah mengidentifikasi pola tersebut sebagai konten berbahaya yang cocok dengan database materi ilegal.
Awal Mula Skandal
Pengguna X tallcowyt memposting temuan bahwa sistem moderasi Discord mencocokkan gambar berpola grid dengan hash dari konten eksplisit yang telah diketahui.
Proses ini dikenal sebagai "fuzzy matching", teknik yang biasanya digunakan untuk mendeteksi konten ilegal seperti CSAM.
Namun, karena bug dalam algoritma, gambar yang tidak berbahaya seperti screenshot Minecraft atau pixel art ikut terdeteksi sebagai "match".
Alih-alih menahan unggahan untuk ditinjau manual, sistem langsung menjatuhkan sanksi permanen kepada pemilik akun.
Postingan tersebut viral dalam hitungan jam, memicu gelombang laporan dari pengguna global yang mengalami nasib serupa: akun tiba-tiba diblokir tanpa peringatan, tanpa proses banding yang jelas, dan tanpa penjelasan memadai.
Respons Resmi Discord
Menghadapi tekanan publik, Discord merilis pernyataan resmi melalui akun X-nya.
Mereka menyatakan bahwa sistem menandai konten dengan mencocokkannya dengan materi berbahaya yang diketahui, dan pencocokan kesamaan dapat menghasilkan positif palsu.
Perusahaan juga mengakui adanya bug kritis yang mengganggu mekanisme pengamanan tersebut. Discord berjanji akan memulihkan akun yang terkena dampak dan memperbaiki sistem moderasi AI mereka.
