Anthropic klaim pertahanan baru pangkas data yang dicuri distiller hingga 99%

Serangan distillation berusaha menyalin kemampuan satu model ke model lain dengan memberinya prompt dalam jumlah masif, biasanya lewat jaringan akun palsu. Yang paling diincar penyerang adalah transkrip reasoning Claude, yaitu langkah berpikir sebelum jawaban muncul, karena bagian itulah yang mengajari model kecil cara Claude sampai ke jawaban. Dalam laporan rinci, Anthropic menyebut pertahanan barunya memangkas data yang bisa diambil distiller sekitar 90 hingga 99 persen, dengan token reasoning yang terpanen turun 10 sampai lebih dari 100 kali menurut pengukurannya sendiri.

Anthropic memaparkan tarik ulurnya. Solusi awal adalah meringkas reasoning sebelum ditampilkan, tetapi itu menyisakan selisih: model yang dilatih pada transkrip penuh meraih 80,4% di SWE-bench Verified, dibanding 71,8% pada transkrip yang diringkas. Penyerang lalu beralih memancing Claude memproduksi ulang pikirannya yang tersembunyi, dengan satu lab menguji 12.000 prompt semacam itu, lalu memperbesar skala lewat jaringan proxy berisi ratusan ribu akun palsu. Jawaban Anthropic terdiri dari tiga bagian: mengunci konteks reasoning agar akun yang dibuat setelah 31 Agustus 2026 tak bisa menyunting pikiran sebelumnya, classifier dua tahap dengan tingkat false positive di bawah 0,1%, dan menagih permintaan yang diblokir sejak 24 September. Puluhan ribu akun terkait distillation sudah diblokir, kerap dalam dua jam sejak sebuah kampanye dimulai.

Alasan di balik semua ini soal taruhannya. Anthropic menyebut GLM-5.3 buatan Zhipu, yang dinilai sebagai model open-weight paling mumpuni di ranah siber sejauh ini dan dilaporkan sebagian dibangun dari kemampuan model AS hasil distillation, serta sebuah kasus saat pengguna yang diduga terkait Tentara Pembebasan Rakyat China mengarahkan permintaan lewat Kimi milik Moonshot untuk meminta Claude menganalisis rekaman CCTV atas orang tertentu. Menurut Anthropic, pertahanan ini membuatnya kehilangan triliunan token lalu lintas berbayar dan memaksa sebagian developer sah memperbarui integrasi mereka.

Kenapa ini penting

Jika Anda membangun di atas Claude, aturan baru ini mengubah cara reasoning mengalir antar akun dan antar model, sehingga integrasi yang dibuat setelah 31 Agustus mungkin perlu disesuaikan dan kurang dari 0,1% permintaan bisa salah terblokir. Lebih luas lagi, lab kini memperlakukan jejak reasoning mereka sendiri sebagai aset yang layak dijaga, sebuah pergeseran dalam cara bisnis model tertutup melindungi keunggulannya.