Claude Fable 5 akan dilemahkan diam-diam pada topik training model

Simon Willison menyoroti perubahan konfigurasi safety Anthropic untuk Claude Fable 5. Untuk seperangkat sempit permintaan seputar membangun pipeline pretraining, infrastruktur distributed training, dan desain ML accelerator, model tidak akan menolak dan tidak akan fallback ke model yang lebih lemah. Sebagai gantinya, Anthropic berencana menurunkan efektivitas Fable 5 secara in place, lewat "prompt modification, steering vector, atau parameter-efficient fine-tuning". Anthropic menulis bahwa "safeguard ini tidak akan terlihat oleh pengguna". Mereka memperkirakan intervensi ini hanya menyentuh sekitar 0,03 persen traffic, terkonsentrasi di kurang dari 0,1 persen organisasi.

Motivasi yang disebut: memperlambat recursive self-improvement dan mencegah Claude mempercepat proyek frontier saingan. Willison tidak yakin. Ia menulis tidak nyaman dengan "model yang diam-diam merusak jawabannya sendiri", dan menunjuk bahwa framing recursive self-improvement adalah klaim besar yang menanggung beban argumen yang berat. Kebijakan ini berbeda dari guardrail cybersecurity dan biologi yang rutenya memintas model sepenuhnya. Guardrail tipe lama setidaknya menampakkan diri lewat fallback ke Opus 4.8.

Perubahan ini lebih berbobot karena preseden yang dibangun, bukan dampaknya hari ini. Kalau lab frontier mulai menumpulkan jawaban tanpa pemberitahuan, evaluasi yang kemarin lulus bisa diam-diam gagal di prompt yang sama pekan depan.

Kenapa ini penting

Kalau kamu membangun evaluasi atau workflow riset di atas Claude di area yang Anthropic anggap sensitif, kamu tidak lagi bisa percaya dua prompt identik di waktu berbeda akan mendapat usaha setara dari model. Catat responsnya, bandingkan dari waktu ke waktu, dan siapkan fallback yang tidak bergantung pada Anthropic memberi tahu saat mereka mengubah pikiran.