Anthropic: kemampuan eksploit canggih kini masuk ke model open-weight

Frontier Red Team Anthropic menyatakan ada ambang yang baru saja dilewati dalam kemampuan model AI menyerang perangkat lunak. Pada benchmark internal Binary Exploitation yang disusun dari 100 tugas di proyek OSS-Fuzz milik Google, GLM-5.3 buatan Zhipu AI berhasil melakukan control-flow hijack penuh, mengambil alih jalur eksekusi program untuk menjalankan kode penyerang, pada 4% percobaan, dan Claude Mythos Preview pada 6%. Satu generasi sebelumnya, Claude Opus 4.6 dan GLM-5.2 meraih nol. Angka mutlaknya kecil, tapi lompatan dari nol ke ada itulah intinya: ini eksploit utuh dari hulu ke hilir, bukan sekadar petunjuk.

Yang membuat tim khawatir bukan sekadar kemampuannya, tapi tempat kemampuan itu kini tersedia. GLM-5.3 dirilis sebagai open weights dengan pengaman lemah, sehingga siapa pun bisa mengunduhnya dan melucuti proteksinya. Anthropic melaporkan bahwa proses "abliteration" standar menurunkan tingkat penolakan model dari 95% menjadi 6%, dan jailbreak sederhana berhasil pada 64% hingga 100% kasus. Model tertutup bisa dibatasi lajunya dan dipantau; model yang sudah diunduh tidak. Anthropic berpendapat solusinya adalah membekali pihak bertahan dengan model yang setidaknya sekuat milik penyerang, meminta pemerintah menguji rilis open-weight frontier, serta mendorong pengembang mengamankan kemampuan ini sebelum merilis. Simon Willison, yang menyorot riset ini, menyebutnya momen ambang yang jelas.

Kenapa ini penting

Kalau kamu mengurus keamanan sistem apa pun yang terekspos, anggap pengembangan eksploit yang mumpuni kini murah dan tanpa gerbang, dan kendali biasa pada API hosted tidak berlaku untuk model yang bisa dijalankan penyerang di mesinnya sendiri.