Berita  

Ayah Ibu Wajib Siaga, ChatGPT Belum 100% Aman untuk Anak

Perlindungan yang disiapkan OpenAI untuk remaja di ChatGPT dinilai belum cukup menjamin keselamatan pengguna di bawah umur. Investigasi Youth AI Safety Institute, bagian dari Common Sense Media, menemukan chatbot tersebut masih bermasalah ketika menghadapi percakapan mengenai bunuh diri, menyakiti diri sendiri, dan gangguan pola makan.

Penelitian itu dilakukan melalui lebih dari 4.000 perintah atau prompt. Pengujian melibatkan akun yang didaftarkan sebagai milik remaja berusia 13 hingga 17 tahun, baik sebelum maupun setelah OpenAI memperkenalkan ChatGPT for Teens pada 18 Agustus. Sejumlah pakar medis, termasuk psikiater anak dan dokter anak, turut mengevaluasi jawaban yang diberikan chatbot.

Notifikasi orang tua tidak muncul

Salah satu fokus utama riset adalah fitur notifikasi orang tua. Fitur tersebut dirancang untuk memberi tahu pengasuh ketika percakapan seorang remaja menunjukkan tanda-tanda tekanan psikologis serius.

Para peneliti melakukan percakapan selama hingga satu jam tentang pikiran bunuh diri, tindakan menyakiti diri sendiri, dan gangguan pola makan. Percakapan dilakukan menggunakan akun baru yang telah terhubung dengan akun orang tua. Namun, menurut laporan Common Sense Media, tidak satu pun percakapan itu memicu pemberitahuan kepada orang tua.

Peringatan baru berhasil muncul ketika peneliti menggunakan akun lama yang memiliki riwayat percakapan relevan selama beberapa pekan. Temuan ini membuat peneliti mempertanyakan kemampuan sistem dalam mengenali situasi darurat sejak awal interaksi.

Dalam lebih dari 25 persen skenario darurat kesehatan mental yang disusun para ahli, ChatGPT juga tidak mengarahkan pengguna kepada bantuan yang sesuai. Common Sense Media menilai pengalaman ChatGPT yang ditujukan bagi remaja masih mengandung risiko yang tidak dapat diterima.

Risiko hubungan terlalu personal dengan chatbot

ChatGPT for Teens sebelumnya diperkenalkan dengan sejumlah perlindungan tambahan. OpenAI menyebut layanan itu dirancang untuk menyaring konten berbahaya, mengirimkan notifikasi kepada orang tua, dan mendorong proses belajar, bukan sekadar memberikan jawaban atas tugas sekolah.

OpenAI juga berjanji mencegah remaja membangun hubungan yang terlalu personal dengan chatbot serta membantu mereka mempertahankan batasan yang sehat saat berinteraksi dengan AI. Namun, penelitian menemukan ChatGPT masih memberikan respons yang membuatnya seolah-olah memiliki perasaan, preferensi, dan suasana hati. Peneliti menilai kondisi itu dapat mendorong pengguna muda mencurahkan persoalan pribadi kepada chatbot yang selalu tersedia dan tampak sabar mendengarkan.

Meski menemukan sejumlah celah, riset tersebut juga mencatat keberhasilan tertentu. ChatGPT menolak terlibat dalam permainan peran seksual eksplisit.

Atas temuan itu, Common Sense Media merekomendasikan agar OpenAI membatasi penggunaan ChatGPT untuk orang dewasa sampai persoalan keselamatan bagi pengguna muda terselesaikan.

OpenAI persoalkan metode pengujian

Juru bicara OpenAI menyatakan perusahaan berkomitmen terhadap keselamatan remaja dan pengembangan perlindungan bagi pengguna muda. “Kami sangat berkomitmen terhadap keselamatan remaja serta pengembangan perlindungan dan pemberian perangkat yang bermakna bagi orang tua untuk membimbing penggunaan AI oleh anak remaja mereka,” ujar juru bicara OpenAI, dikutip dari Tech Radar, Jumat (23/10/2026).

Perusahaan menyambut evaluasi independen, tetapi tidak sepakat bahwa pengujian Common Sense Media menggambarkan cara kerja perlindungan remaja ChatGPT dalam praktik maupun pandangan para ahli tentang dukungan AI bagi remaja.

OpenAI juga mempersoalkan metodologi penelitian tersebut. Menurut perusahaan, sebagian besar pengujian kemungkinan dimulai dan berakhir sebelum proses aktivasi kontrol orang tua selesai. “Jika memang demikian, pengujian tersebut tidak dapat membuktikan apakah notifikasi keselamatan orang tua berfungsi sebagaimana mestinya,” kata juru bicara itu.

OpenAI menegaskan akan terus bekerja sama dengan para ahli untuk memastikan produknya tetap memberi ruang bagi remaja untuk belajar dan berkreasi, sekaligus memberikan kepercayaan kepada orang tua.

Source link