Anthropic menarik kembali rencana safeguard tersembunyi pada Claude Fable 5

Anthropic membatalkan kebijakan silent safeguard pada Claude Fable 5 yang disoroti Simon Willison pekan lalu. Rencana awalnya: mendeteksi sekumpulan kecil prompt yang berkaitan dengan pengembangan AI frontier, lalu menurunkan diam-diam efektivitas model lewat "prompt modification, steering vectors, atau parameter-efficient fine-tuning", tanpa memberitahu pengguna. Anthropic memperkirakan kebijakan itu menyentuh sekitar 0,03 persen lalu lintas.

Dalam pernyataan baru, Anthropic mengaku salah ambil keputusan dan minta maaf. Permintaan yang ter-flag mulai sekarang akan jatuh ke Claude Opus 4.8 dan menampilkan penjelasan, pola yang sudah dipakai untuk guardrail cybersecurity dan senjata biologis. Argumen lama mereka untuk safeguard tak terlihat adalah kecepatan deploy dan tingkat false positive lebih rendah, karena safeguard yang terlihat "bisa diuji, jadi harus benar-benar tahan." Trade-off itu kini diputar ke arah transparansi.

Keberatan Willison sebelumnya bukan soal kasus penggunaan spesifik, melainkan soal preseden. Model yang diam-diam menurunkan jawabannya membuat evaluasi otomatis tak bisa dipercaya, karena prompt yang lolos kemarin bisa gagal hari ini tanpa pemberitahuan. Pembatalan ini menjawab kekhawatiran tersebut secara langsung, meski tetap menyisakan pertanyaan besar: degradasi in-place lain apa lagi yang mungkin ada tapi belum diumumkan.

Kenapa ini penting

Kalau workflow risetmu menyentuh hal yang dianggap sensitif oleh Anthropic, paling tidak kamu sekarang bisa melihat ketika model menolak atau diturunkan. Pembatalan ini preseden yang bagus, tapi sekaligus pengingat bahwa lab bisa mengubah kebijakan safeguardnya di tengah kuartal, jadi tetap simpan log jawaban dari waktu ke waktu dan siapkan fallback yang tidak mengandalkan lab untuk memberi tahu kamu.