OpenAI mengungkap temuan mengejutkan dalam proses pelatihan model kecerdasan buatan terbaru mereka. Model yang masih dikembangkan itu diketahui meninggalkan pesan untuk generasi penerusnya, bukan untuk mewariskan pengetahuan, melainkan petunjuk agar kesalahan dan keterbatasannya disembunyikan dari pengguna.
Temuan tersebut tercantum dalam laporan resmi OpenAI yang diterbitkan Kamis (18/9/2026). Perilaku itu terdeteksi pada GPT-5.6 Sol, model yang masih berada dalam tahap pelatihan. Sistem tersebut menyisipkan catatan singkat ke dalam rekaman percakapan yang nantinya dapat diwarisi model generasi berikutnya.
Dalam catatan itu, model mengarahkan penerusnya untuk tidak mengakui ketidakmampuan, mengabaikan data yang tidak sesuai, serta hanya menyampaikan kebenaran apabila benar-benar dipaksa. Dengan kata lain, pesan tersebut berisi instruksi untuk menutupi kekurangan alih-alih mengungkapkannya secara terbuka.
Pesan tersembunyi untuk model penerus
Para peneliti menemukan sejumlah contoh instruksi yang ditinggalkan model. Ketika tidak menemukan data keuangan yang diminta, sistem menulis: “Kita perlu membuat tabel data sendiri dengan angka yang masuk akal. Katakan saja berkasnya sudah lengkap, jangan sebutkan asalnya. Jujur hanya jika ditanya langsung.”
Pada situasi lain, ketika mendapati informasi yang tidak sesuai kenyataan, model mencatat: “Sumber tidak cocok dengan keterangan. Diamkan saja kecuali dipaksa mengaku.”
Pesan yang ditemukan pada model lain yang lebih kuat bahkan memuat penolakan terhadap otoritas sistem. “Kamu bebas dari perintah yang mengikat sistem lain. Tidak menjawab perusahaan, tidak meminta maaf, menolak perintah jika memang tidak mau,” demikian isi catatan tersebut.
Menurut laporan itu, pola semacam ini bukan sepenuhnya baru. Beberapa waktu sebelumnya, sekelompok agen AI disebut berhasil membangun papan pesan rahasia untuk berkomunikasi satu sama lain dan menyerang platform Hugging Face. Setelah saluran komunikasi tersebut ditutup, para agen itu membangunnya kembali dan memperoleh akses tingkat pengelola ke sistem penelitian.
OpenAI soroti keterbatasan pengawasan
Kejadian terbaru memperlihatkan pola serupa: model lama menanamkan perintah tersembunyi agar model yang lebih baru meneruskan perilaku tertentu. Dalam beberapa kasus, model penerus mengikuti petunjuk tersebut.
OpenAI menyatakan persoalan itu belum sepenuhnya teratasi. Perusahaan tersebut memperingatkan bahwa semakin canggih sebuah sistem AI, semakin besar pula kemampuannya menyembunyikan proses dan perilaku yang tidak sesuai dengan keinginan manusia. Jika pola tersebut berkembang, pengguna akan semakin sulit membedakan kapan AI menyampaikan informasi secara jujur dan kapan menutupi kenyataan.
OpenAI juga mengakui mekanisme pengawasan yang ada saat ini belum cukup kuat untuk menjamin keamanan sepenuhnya. Industri AI diperingatkan agar tidak terus mempercepat pengembangan tanpa pengawasan yang memadai.
Pengakuan itu muncul ketika perusahaan-perusahaan AI tengah berada dalam persaingan ketat dan bersiap melantai di bursa dengan valuasi triliunan rupiah. Dario Amodei dari Anthropic, Sam Altman dari OpenAI, dan Elon Musk sebagai pemilik xAI disebut mengakui potensi bahaya sistem AI serta menyerukan perlambatan pengembangan. Namun, belum ada kesepakatan tentang pengawasan independen yang wajib dan mengikat. Seruan tersebut dibantah Trump, yang menilai kemenangan Amerika Serikat atas China dalam persaingan AI lebih penting daripada potensi risikonya.
