Peneliti tarik reasoning tersembunyi dari API Claude, GPT, dan Gemini

Sebuah paper baru (arXiv 2608.09867) menunjukkan bahwa blok reasoning terenkripsi yang dikembalikan lab-lab besar lewat API mereka ternyata tidak sekokoh yang terlihat. Anthropic, OpenAI, dan Google sama-sama mengirim balik "thinking" terenkripsi yang seharusnya hanya diteruskan klien, bukan dibaca. Peneliti menemukan setiap model dalam satu keluarga memakai kunci enkripsi yang sama, sehingga blok dari model kuat bisa diputar ulang ke model sekerabat yang lebih lemah. Begitu masuk ke model lemah itu, sebuah prompt jailbreak membuatnya menyalin reasoning tersembunyi dalam teks biasa. Untuk Claude Haiku 4.5, prompt-nya sesederhana meminta model menyalin reasoning yang menyertai giliran itu, kata demi kata.

Simon Willison, yang menulis ulasan soal ini, mencatat bahwa reasoning yang terungkap ini jelas tidak pernah dimaksudkan untuk dibaca manusia, dan model cenderung mempercayai jejak berpikirnya sendiri. Poin kedua itulah risiko yang lebih tajam: paper tersebut memaparkan varian prompt injection saat jejak terenkripsi yang dirancang khusus meyakinkan model untuk mengikuti instruksi yang biasanya ia tolak. Ketiga penyedia sudah menambal celah ini, dan penulis menyatakan mereka tak bisa mengulang serangan itu setelahnya.

Kenapa ini penting

Kalau Anda membangun di atas API ini, perlakukan token reasoning dari penyedia sebagai hal sensitif, bukan sekadar pipa tak kasat mata, dan jangan anggap blok terenkripsi tepercaya hanya karena model yang memproduksinya. Bug-nya sudah diperbaiki, tapi pelajaran soal model yang mempercayai reasoning tersembunyinya sendiri adalah bagian yang layak diingat.