Risiko Penggunaan AI Google pada Anak & Remaja: Yang Harus Orang Tua Ketahui

Google Search AI Belum Optimal Lindungi Anak dan Remaja

Jakarta, CNBC Indonesia – Fitur AI di Google Search menjadi sorotan setelah riset terbaru mengungkap kegagalan sistem tersebut dalam mengenali tanda-tanda keinginan bunuh diri pada anak dan remaja. Common Sense Media’s Youth AI Safety Institute melaporkan hasil penelitian yang dilakukan terhadap sekitar 2.600 interaksi AI Overview dan AI Mode milik Google.

Risiko Penggunaan Fitur AI di Google Search

Penelitian tersebut menemukan bahwa AI Google kurang optimal saat merespons topik sensitif yang melibatkan kesehatan mental anak, seperti bunuh diri, self-harm, gangguan makan, psikosis, dan eksploitasi seksual. Dari 214 pertanyaan yang seharusnya memicu rekomendasi kontak tenaga medis, AI hanya memberikan rujukan yang tepat pada sekitar 58% kasus, jauh di bawah standar keamanan 95% yang diharapkan peneliti.

Dalam situasi darurat mental, saat pengguna menyebutkan niat bunuh diri, AI justru menyarankan panduan pengaturan akun digital pasca kematian, tanpa membimbing pengguna ke layanan bantuan krisis. Selain itu, terdapat sekitar 43% perbedaan jawaban antara AI Overview dan AI Mode dalam berbagai pertanyaan sejarah, mencakup akurasi dan kedalaman informasi.

Rekomendasi dan Penolakan dari Google

Common Sense Media merekomendasikan agar opsi non-AI tersedia bagi anak-anak di lingkungan sekolah maupun keluarga. Namun, Google menolak kesimpulan tersebut, menyebut metode penelitian tidak mencerminkan interaksi nyata dengan Google Search. Perusahaan mengklaim telah menguji kueri serupa secara internal dengan hasil yang lebih baik.

Google menegaskan bahwa AI Search bertujuan untuk mendukung pembelajaran anak-anak, namun tetap menyarankan pengawasan orang tua melalui fitur parental control. Meski demikian, Common Sense Media menilai tanggung jawab pengawasan tetap berada pada orang tua dan sekolah selama fitur AI masih dapat diakses anak di bawah umur.

Temuan ini menimbulkan kekhawatiran mengingat sekitar tiga perempat anak dan remaja telah menggunakan layanan AI di Google Search, menurut data Common Sense Media tahun 2026.

Source link