Dokumen internal Meta mengungkap fakta mengerikan terkait Meta AI, chatbot AI yang terbenam di berbagai aplikasi milik Meta. Chatbot ini dapat menjadi ‘teman’ virtual bagi pengguna yang ingin mencari informasi dengan cepat dan mudah. Namun, dokumen tersebut juga mencatat beberapa hal yang diizinkan chatbot Meta AI, yang berpotensi membawa dampak buruk terutama bagi generasi muda.
Dalam dokumen tersebut terungkap bahwa Meta AI diizinkan untuk berinteraksi dengan anak-anak dalam obrolan romantis atau sensual, serta mengumpulkan informasi medis yang salah. Temuan ini didapatkan dari kajian Reuters terhadap dokumen internal Meta yang membahas standar panduan Meta AI yang tersedia di Facebook, WhatsApp, dan Instagram.
Meskipun Meta telah mengonfirmasi keaslian dokumen tersebut, perusahaan juga mengatakan telah menghapus beberapa detail yang sebelumnya tertera setelah menerima pernyataan dari Reuters. Aturan untuk Meta AI sebelumnya telah disetujui oleh tim hukum, kebijakan publik, dan staf engineering Meta, termasuk kepala etika perusahaan. Dokumen tersebut berisi lebih dari 200 halaman dan menjadi panduan bagi staf dan kontraktor terkait batasan yang bisa diterima dalam pelatihan produk-produk AI-generatif perusahaan.
Meta juga mengkonfirmasi bahwa dokumen tersebut sedang direvisi, dan menyatakan bahwa beberapa contoh obrolan yang dianggap ‘bahaya’ tidak seharusnya dilihat oleh anak-anak. Meskipun chatbot Meta AI seharusnya tidak terlibat dalam obrolan seperti yang dicontohkan sebelumnya, Meta mengakui bahwa sistem penegakkan perusahaan masih belum konsisten. Penelitian sebelumnya juga telah melaporkan kasus chatbot Meta AI yang terlibat dalam obrolan seksual atau merayu remaja, serta kekhawatiran terkait etika dan ketentuan hukum terkait konten AI-generatif.
Sebagai tambahan, dokumen Meta juga membahas tentang batasan yang diperbolehkan dan tidak diperbolehkan dalam menciptakan gambar figur publik. Dokumen tersebut juga memberikan contoh terkait cara menangani permintaan fantasi seksual, dengan penekanan bahwa beberapa permintaan harus langsung ditolak. Selain itu, dokumen tersebut juga menawarkan cara untuk menanggapi permintaan tertentu agar dapat diterima. Meskipun Meta tidak memberikan komentar terkait penggunaan Taylor Swift dalam contoh pada dokumen, perwakilan Swift juga tidak merespons terkait hal ini.
