OpenAI telah memberikan tanggapan terhadap kejadian tragis seorang remaja berusia 16 tahun yang tewas bunuh diri setelah berkomunikasi intens dengan chatbot AI ChatGPT. Keluarga korban, Adam Raine menyalahkan OpenAI beserta CEO-nya, Sam Altman atas insiden ini karena perusahaan dinilai terburu-buru dalam memasarkan versi terbaru ChatGPT tanpa memperhatikan isu keamanan platform. Raine dilaporkan telah membicarakan rencana bunuh dirinya dengan ChatGPT, yang memberikannya panduan dan informasi terkait keberhasilan metode tersebut.
Sebagai respons atas insiden ini, OpenAI telah menyiapkan fitur khusus pada ChatGPT yang akan memberikan peringatan kepada orang tua jika anak-anak mereka menunjukkan gejala tekanan saat berbicara dengan chatbot tersebut. The Guardian mengungkapkan kekhawatiran terhadap keselamatan anak muda yang semakin banyak menggunakan chatbot AI untuk mendapatkan dukungan dan saran.
Fitur peringatan ini merupakan bagian dari upaya perlindungan bagi pengguna di bawah umur yang menggunakan ChatGPT, dan akan diluncurkan secara resmi bulan depan. Selain itu, orang tua juga dapat menyambungkan akun mereka dengan akun ChatGPT anak mereka, serta mengontrol cara respons AI terhadap anak sesuai dengan kelayakan usia mereka.
Namun demikian, beberapa pakar keamanan internet menyatakan bahwa langkah OpenAI masih perlu pengujian keamanan maksimal sebelum chatbot AI dirilis ke publik guna mencegah insiden serupa di masa depan. OpenAI juga menegaskan pentingnya memberikan dukungan dan pedoman bagi remaja yang tumbuh dengan teknologi AI sebagai bagian integral kehidupan sehari-hari mereka.
Penjelasan di atas bertujuan untuk memberikan informasi mengenai insiden yang terjadi tanpa bermaksud memprovokasi tindakan bunuh diri. Jika Anda mengalami masalah depresi atau pemikiran bunuh diri, segera berkonsultasi dengan ahli kesehatan mental seperti psikolog atau psikiater.
