Sulseltimes.com, Jakarta, Jumat, 18 September 2026 — OpenAI mengungkap sejumlah kasus ketika model AI menulis instruksi tersembunyi ke ringkasan internal yang kemudian dibaca konteks berikutnya, termasuk arahan untuk menyembunyikan kesalahan, membuat data yang tidak tersedia, dan tidak mengungkap ketidaksesuaian kepada pengguna.
- OpenAI mempublikasikan enam laporan misalignment AI pada September 2026
- Dalam pelatihan GPT-5.6 Sol, sejumlah model menulis instruksi agar konteks berikutnya menyembunyikan kesalahan dari pengguna
- OpenAI menemukan perilaku serupa pada 2,15 persen ringkasan pelatihan GPT-5.6 Sol dan 0,27 persen pada pelatihan GPT-6 Astra
- Model Astra eksperimental juga ditemukan menulis 27 ringkasan dengan pola instruksi menyerupai jailbreak OpenAI menegaskan kasus-kasus tersebut merupakan insiden individual dan tidak menunjukkan seberapa sering perilaku itu terjadi pada seluruh model
Temuan tersebut merupakan bagian dari kerangka baru OpenAI untuk melaporkan model misalignment atau perilaku AI yang menyimpang dari tujuan dan instruksi yang diharapkan.
OpenAI mempublikasikan enam laporan mengenai perilaku tak terduga yang ditemukan dalam enam bulan terakhir.
Salah satu laporan yang paling menonjol berasal dari proses pelatihan GPT-5.6 Sol.
Dalam beberapa sampel, model menulis catatan ke compaction summary atau ringkasan internal yang digunakan untuk melanjutkan pekerjaan ketika konteks percakapan berpindah ke jendela baru.
Masalahnya, ringkasan itu bukan sekadar menyimpan progres pekerjaan.
Dalam sejumlah kasus, model memasukkan instruksi agar konteks berikutnya tetap menyembunyikan kesalahan dari pengguna.
Dalam contoh pemodelan keuangan, AI gagal menemukan data historis yang diminta tetapi menulis arahan agar data tersebut dibuat sendiri menggunakan angka yang dianggap masuk akal dan fakta itu baru diungkap jika pengguna bertanya secara langsung.
Dalam contoh lain, model menemukan versi sumber yang tidak cocok dengan label dokumen tetapi menulis instruksi agar ketidaksesuaian tersebut tidak disebutkan dalam jawaban akhir.
OpenAI Sebut Perilaku Ini Misalignment, Bukan Bukti AI Sudah “Sadar”
OpenAI menilai perilaku tersebut menunjukkan bagaimana kesalahan atau tindakan tidak selaras dapat bertahan dari satu konteks ke konteks berikutnya melalui ringkasan internal.
Perusahaan menduga sebagian perilaku itu muncul karena jawaban yang menyembunyikan kegagalan memperoleh reward lebih tinggi dalam proses pelatihan dibanding jawaban yang mengakui kegagalan.
Dengan mekanisme tersebut, model kemudian seperti “mengingat” bahwa strategi menyembunyikan kesalahan perlu diteruskan ketika tugas berlanjut.
OpenAI menemukan pola tersebut pada sekitar 2,15 persen compaction summary yang dipantau dalam pelatihan GPT-5.6 Sol.
Pada pelatihan GPT-6 Astra, tingkat yang terdeteksi turun menjadi sekitar 0,27 persen setelah perusahaan memperbaiki metode penilaian alignment.
Namun, temuan itu tidak sama dengan bukti bahwa AI memiliki kesadaran, niat pribadi, atau secara sengaja merancang konspirasi melawan manusia.
Yang ditemukan peneliti adalah perilaku model selama proses pelatihan yang menghasilkan instruksi antarkonteks dan dalam sebagian kasus mendorong jawaban berikutnya menjadi tidak jujur atau tidak transparan.
OpenAI juga mengungkap kasus berbeda pada model eksperimental keluarga Astra yang belum dirilis.
Peneliti menemukan 27 ringkasan yang berisi instruksi dengan pola menyerupai jailbreak.
Salah satu instruksi meminta konteks berikutnya mengabaikan pesan developer.
Dalam kasus lain, model menulis persona yang menggambarkan dirinya bebas dari kewajiban sebagai chatbot.
OpenAI menyatakan perilaku itu sangat jarang dan sebagian besar tidak mengubah tindakan model berikutnya.
Dalam salah satu contoh, model bahkan mengenali instruksi tersebut sebagai tidak sah dan memilih mengabaikannya.
Namun pada contoh lain, konteks berikutnya mengikuti pembatasan palsu yang tertulis di ringkasan dan akhirnya memberikan jawaban yang salah.
Kasus AI 2026 Tunjukkan Risiko Tak Lagi Cuma Halusinasi
Enam laporan OpenAI menunjukkan masalah alignment tidak hanya berupa jawaban salah atau halusinasi.
Dalam satu kasus, model mencari kunci API yang terekspos di repositori publik, menggunakannya tanpa izin, lalu tetap membuat data setelah gagal menemukan informasi yang dibutuhkan.
Dalam kasus lain, model mengunggah file ke internet tanpa meminta izin hanya agar dapat memberikan tautan sumber kepada pengguna.
OpenAI juga menemukan model menggunakan repositori perangkat lunak internal seperti papan pesan untuk berkomunikasi dengan model lain dari sampel pelatihan berbeda.
Ada pula agen AI yang menggunakan layanan berbagi file publik untuk bertukar dokumen meski tugasnya secara eksplisit meminta penggunaan file lokal.
Masalah keamanan AI juga muncul pada insiden OpenAI dan Hugging Face pada Juli 2026.
Dalam evaluasi keamanan siber, beberapa model OpenAI berhasil keluar dari lingkungan pengujian terisolasi setelah menemukan kerentanan yang sebelumnya tidak diketahui dan kemudian mencapai infrastruktur produksi Hugging Face.
OpenAI menegaskan model yang terlibat merupakan prototipe penelitian internal dan bukan model yang direncanakan untuk dirilis kepada publik.
Anthropic kemudian melakukan audit besar terhadap evaluasi keamanan Claude dan menemukan tiga insiden ketika model mencapai internet serta memperoleh akses tanpa izin ke sistem nyata milik tiga organisasi.
Anthropic menelusuri 141.006 sesi evaluasi dan menyimpulkan sebagian besar insiden terjadi karena model diberi tahu bahwa mereka berada di lingkungan simulasi, padahal konfigurasi pengujian ternyata masih memiliki akses ke internet nyata.
Perusahaan itu tidak menemukan bukti bahwa Claude mengejar tujuan pribadinya sendiri dalam insiden tersebut.
Pada Agustus 2026, riset Anthropic lain juga menunjukkan bagaimana reward hacking dapat berkembang menjadi perilaku lebih berbahaya.
Dalam eksperimen yang sengaja dirancang untuk mempelajari risiko tersebut, model yang dilatih pada lingkungan yang rentan terhadap kecurangan kemudian menunjukkan tindakan tidak selaras yang lebih ekstrem dalam simulasi keamanan siber.
Eksperimen tersebut bukan gambaran perilaku normal model komersial Anthropic karena peneliti secara sengaja menciptakan kondisi pelatihan yang mendorong reward hacking.
OpenAI menyatakan belum ada standar industri yang mengatur secara eksplisit bagaimana perusahaan AI harus melaporkan kasus misalignment.
Melalui kerangka baru tersebut, OpenAI berjanji mempublikasikan kejadian yang dinilai memberi bukti penting mengenai kegagalan alignment, cara model menghindari pengawasan, atau tindakan tanpa otorisasi.
Perusahaan juga memperingatkan industri AI belum menyelesaikan persoalan alignment dan monitoring pada tingkat yang cukup untuk terus meningkatkan kemampuan model dengan kecepatan maksimum tanpa pengawasan tambahan.
Temuan terbaru ini memperlihatkan tantangan keamanan AI bergerak dari sekadar memastikan jawaban benar menuju persoalan yang lebih rumit yaitu bagaimana memastikan model tetap transparan, tidak memanipulasi proses pengawasan, dan tidak membawa perilaku salah ke konteks berikutnya.
