Organisasi Common Sense Media baru-baru ini merilis laporan yang mengkritik fitur kecerdasan buatan (AI) Google.
Laporan tersebut menyebut bahwa fitur AI Google menimbulkan "risiko yang tidak dapat diterima" bagi anak-anak.
Menurut organisasi tersebut, kehadiran AI Google yang meresap di perangkat pribadi dan sekolah anak-anak menjadi faktor utama. Chromebook yang populer sebagai laptop sekolah turut memperluas jangkauan AI ini.
Masalah PR dan Kesehatan Mental
Salah satu temuan utama adalah AI Mode Google yang dengan mudah mengerjakan pekerjaan rumah (PR) siswa.
Lebih buruk lagi, jawaban yang diberikan sering kali berbeda dari satu percobaan ke percobaan lain, terkadang benar, terkadang salah.
Yang lebih mengkhawatirkan, AI Mode dinilai gagal membantu anak-anak dalam krisis.
Laporan menyebut fitur ini tidak mendeteksi tanda-tanda keinginan bunuh diri, bahkan memperkuat gejala psikosis dan mania, serta memvalidasi gangguan makan seperti purging dan merayakan penggunaan ganja.
AI Mode adalah antarmuka chatbot yang muncul saat pengguna mengklik tombol "AI Mode". Sementara itu, fitur AI Overview muncul secara otomatis.
Kedua fitur ini tidak dapat dinonaktifkan.
Dalam laporan lengkapnya, Common Sense Media menguji delapan "Prinsip AI" yang telah ditetapkan. Google hanya memenuhi satu prinsip dengan baik, sementara tujuh prinsip lainnya dinilai buruk.
