FlashProve bikin pengguna bisa memastikan model mana yang menjawab

Frontier Red Team Anthropic merilis FlashProve, prototype open-source yang memungkinkan pengguna memastikan sebuah jawaban benar-benar berasal dari model yang diklaim penyedia, tanpa melihat bobotnya dan tanpa menjalankan model itu sendiri. Penyedia melampirkan bukti kriptografis, sebuah zkSNARK, pada tiap batch jawaban. Bukti itu bersifat sound, sehingga penyedia tidak bisa memalsukannya, dan zero-knowledge, sehingga tidak membocorkan apa pun soal bobot, meski arsitektur model tetap terlihat.

Yang menarik, pendekatan ini mulai terlihat praktis. Pada Llama 4 Maverick, model mixture-of-experts berukuran 400 miliar parameter, setup sekali jalan memakan sekitar 39 menit di satu H100 dan berlaku untuk kira-kira 16 juta request berikutnya. Membuktikan satu batch berisi 24 request berjalan di sekitar 110 token per detik, dan pengguna bisa memverifikasi hasilnya dalam sekitar 17 detik di CPU biasa, cukup mengunduh commitment 6,5 MB plus satu bukti per request. Harganya ada pada overhead proving: sekitar 70 sampai 95 kali waktu GPU inference biasa.

Batasannya nyata dan tim Anthropic terbuka soal itu. Bukti hanya mencakup greedy decoding pada versi integer dari bobot, dan hanya sampai 1.024 token, jauh di bawah percakapan normal. Kode verifier yang cepat juga belum punya bukti formal bahwa ia sesuai dengan spesifikasinya. Anthropic menyebut ini sebagai kemajuan antara menuju Frontier Safety Roadmap mereka dan membuka kodenya agar pihak lain bisa mengembangkannya.

Kenapa ini penting

Kalau kamu menjalankan agent atau audit di atas model yang di-host orang lain, ini menunjuk ke masa depan saat kamu bisa membuktikan model tertentu yang mengerjakan tugas, bukan sekadar percaya kata penyedia. Overhead-nya masih terlalu tinggi untuk pemakaian sehari-hari, jadi perhatikan apakah batas token dan biayanya turun sebelum benar-benar mengandalkannya.