Clef dari Cloudflare, model kecil yang dibuat untuk memutuskan, bukan mengobrol

Workflow agent menghabiskan banyak panggilan untuk keputusan-keputusan kecil: cabang mana yang diambil, pesan ini masuk kategori apa, dokumen ini relevan atau tidak. Memakai model chat penuh untuk itu lambat dan mahal. Jawaban Cloudflare adalah Clef, model keputusan open-weight yang sama sekali tidak menulis teks bebas. Ia menerima skema berisi pilihan dan mengembalikan probabilitas terkalibrasi untuk tiap pilihan, sehingga keluarannya terbatas dan mudah dipakai di dalam kode.

Rancangannya yang bikin menarik. Clef dibangun di atas backbone Qwen, 3,8 miliar parameter untuk model utama dan 9 miliar untuk Clef-flash yang lebih cepat, dan menjalankan pass non-autoregressive yang hanya prefill untuk menilai semua opsi secara paralel, bukan menghasilkan token satu per satu. Hal itu tampak di latensi: Cloudflare melaporkan median 209 milidetik untuk Clef dan 38,8 milidetik untuk Clef-flash, dibanding 524 milidetik pada model Jev terdahulu, dan ia mengungguli Jev di tiga dari empat uji workflow. Clef membawa context window 64K dan vision encoder untuk klasifikasi gambar. Pelatihannya memakai label-smoothed cross-entropy dan metode kalibrasi yang perusahaan sebut RLCD, dengan data sintetis yang mengacak urutan field agar model tidak menghafal tata letak skema.

Bersama model ini, Cloudflare membuka layanan fine-tuning reinforcement learning yang dimulai dengan pendampingan langsung dari para engineer-nya lalu bergerak ke pelatihan self-serve di atas infrastruktur AI Gateway dan Workers AI yang sudah mereka miliki.

Kenapa ini penting

Kalau kamu membangun agent, langkah routing dan klasifikasi sering jadi biaya tersembunyi, dan model murah yang terkalibrasi serta menjawab dalam puluhan milidetik membuatmu bisa menyimpan model chat yang mahal untuk pekerjaan yang benar-benar butuh penalaran terbuka.