Model open 24B Liquid AI bisa jalankan agent di laptop

Liquid AI merilis LFM2.5-24B-A2B, model reasoning open-weight yang dirancang supaya agent yang cukup mumpuni bisa berjalan di hardware milik sendiri. Ini mixture-of-experts dengan total 24 miliar parameter, tapi hanya sekitar 2 miliar yang aktif per token, dan itulah yang menjaganya tetap cepat di laptop. Arsitekturnya memadukan gated short convolution dengan grouped-query attention, memakai 64 expert dan routing top-4. Dibanding generasi LFM2 sebelumnya, context window-nya tumbuh dari 32K menjadi 131K token dan vocabulary-nya berlipat jadi 128K, yang terutama membantu teks non-Latin. Model ini murni reasoning, jadi selalu menghasilkan chain of thought sebelum menjawab.

Fokusnya pada kerja agentic, bukan pengetahuan mentah, dan benchmark-nya sejalan dengan itu. Melawan Qwen3.6-35B-A3B, model open yang lebih besar, Liquid AI melaporkan skor 27,69 berbanding 8,72 di AutomationBench, 80,71 berbanding 75,02 di ToolSandbox, dan 96,75 berbanding 93,06 di IFEval untuk kepatuhan instruksi. Ia tertinggal di area yang memang bisa ditebak: 74,42 berbanding 83,69 di GPQA Diamond, dan 51 berbanding 66,2 di SWE-Bench Verified untuk coding. Liquid AI terbuka soal ini dan menyarankan memasangkan model dengan retrieval atau web search untuk tugas yang berat pengetahuan. Soal kecepatan, mereka mencatat sekitar 184 token per detik di Apple M5 Max dan 114 di Ryzen AI Max+ 395, dengan dukungan sejak hari pertama di llama.cpp, MLX, vLLM, SGLang, dan ONNX.

Sebagian hasil itu berasal dari resep pelatihannya. Setelah supervised fine-tuning, Liquid AI menjalankan on-policy distillation lalu reinforcement learning di dalam agent harness sungguhan, termasuk OpenClaw dan OpenCode, bukan di dataset statis. Weight versi instruct maupun base tersedia di Hugging Face.

Kenapa ini penting

Kalau kamu ingin menjalankan agent berbasis tool secara lokal demi privasi atau biaya, ini pilihan konkret yang menukar sebagian kekuatan coding dan pengetahuan dengan kecepatan serta kepatuhan instruksi yang kuat. Uji dulu di beban tool-calling milikmu sendiri sebelum percaya pada selisih benchmark-nya, dan siapkan retrieval, karena model ini sengaja dibuat ringan pengetahuan.