Organisasi Common Sense Media baru-baru ini merilis laporan yang mengkritik fitur kecerdasan buatan (AI) Google.
Laporan tersebut menyebut bahwa fitur AI Google menimbulkan "risiko yang tidak dapat diterima" bagi anak-anak.
>>> Realme Narzo 100x Resmi: Layar 144Hz dan Baterai 8.000 mAh
Menurut organisasi tersebut, kehadiran AI Google yang meresap di perangkat pribadi dan sekolah anak-anak menjadi faktor utama. Chromebook yang populer sebagai laptop sekolah turut memperluas jangkauan AI ini.
Masalah PR dan Kesehatan Mental
Salah satu temuan utama adalah AI Mode Google yang dengan mudah mengerjakan pekerjaan rumah (PR) siswa.
Lebih buruk lagi, jawaban yang diberikan sering kali berbeda dari satu percobaan ke percobaan lain, terkadang benar, terkadang salah.
Yang lebih mengkhawatirkan, AI Mode dinilai gagal membantu anak-anak dalam krisis.
>>> Realme Narzo 100x 5G Resmi di India, Baterai 8.000 mAh dan Layar 144Hz
Laporan menyebut fitur ini tidak mendeteksi tanda-tanda keinginan bunuh diri, bahkan memperkuat gejala psikosis dan mania, serta memvalidasi gangguan makan seperti purging dan merayakan penggunaan ganja.
AI Mode adalah antarmuka chatbot yang muncul saat pengguna mengklik tombol "AI Mode". Sementara itu, fitur AI Overview muncul secara otomatis.
Kedua fitur ini tidak dapat dinonaktifkan.
>>> OnePlus N6x Segera Hadir, Perluas Seri N6
Dalam laporan lengkapnya, Common Sense Media menguji delapan "Prinsip AI" yang telah ditetapkan. Google hanya memenuhi satu prinsip dengan baik, sementara tujuh prinsip lainnya dinilai buruk.
