Cohere rilis North Mini Code, MoE 30B open untuk coding agent

Cohere Labs merilis North Mini Code, model pertama mereka yang ditujukan khusus untuk developer, dengan lisensi Apache 2.0. Modelnya MoE 30B total parameter dan 3B parameter aktif per token, dirancang untuk coding agent, bukan chat. Di Artificial Analysis Coding Index North Mini Code mencetak 33.4, lebih tinggi dari model yang jauh lebih besar seperti Nemotron 3 Super dari Nvidia di 120B dan Mistral Small di 119B. Di SWE-Bench Verified angkanya 80.2% pass@10 setelah supervised fine-tuning, dan di Terminal-Bench v2 mencapai 55.1% pass@10, dengan tambahan 7.9 poin absolut di pass@1 setelah reinforcement learning with verifiable rewards.

Bagian training-nya yang paling menarik. Cohere menjalankan dua tahap SFT lalu RLVR di lebih dari 70.000 task agentic yang berjalan di container, diambil dari sekitar 5.000 repository. Modelnya juga dilatih paralel di beberapa agent scaffold sekaligus, termasuk SWE-Agent, mini-SWE-Agent, dan OpenCode, supaya tidak menempel terlalu kuat ke satu harness saja. Context window saat RL adalah 128K. Hasilnya model dengan parameter aktif kecil yang murah dijalankan sebagai agent dan tetap robust saat dipindah ke loop berbeda.

Kenapa ini penting

Buat tim yang sedang men-ship coding agent, pertanyaan baru yang muncul: bisakah inner loop dipindah ke model open dengan 3B parameter aktif, sambil tetap memanggil model closed yang lebih besar hanya untuk kasus sulit. Benchmark North Mini Code memberi sinyal jawabannya iya untuk banyak task, dan training multi-scaffold menekan risiko lock-in ke harness tertentu. Lisensi Apache 2.0 berarti tim bebas melakukan fine-tuning dan self-host tanpa harus melewati review hukum panjang.