← semua berita

Kenapa mengejar lebih murah daripada memimpin di AI

AI · · · sumber (interconnects.ai)

Ulasan Nathan Lambert soal gelombang open model menyodorkan poin yang mudah terlewat di tengah hiruk-pikuk rilis model: mengejar secara struktural lebih murah daripada memimpin. Ia mengutip seorang engineer yang menjelaskannya dengan gamblang, "ini membantu karena kami tidak sedang mendorong frontier, kami cuma berusaha mengejar." Tim yang sudah tahu sebuah kemampuan itu mungkin, dan kira-kira bagaimana cara membangunnya, bisa melompati jalan buntu mahal yang harus ditempuh lab pertama. Faktor itu, lebih dari sekadar compute, yang membuat jarak antara model open dan closed terbaik bertahan dalam hitungan beberapa bulan.

Ia juga membantah penjelasan populer soal cara para pengejar cepat itu bekerja. Ben Thompson berargumen bahwa distillation, melatih model kecil dari output model yang lebih kuat, makin berpengaruh selama fase reinforcement learning. Lambert tak sepakat, baik dari sisi ekonomi maupun bukti. Memakai model frontier seperti Claude atau GPT untuk menilai 20 sampai 40 juta RL rollout akan terlalu mahal dijalankan dalam skala besar, dan menurutnya literatur riset belum menunjukkan secara meyakinkan bahwa teacher yang lebih kuat menghasilkan student yang lebih baik setelah supervised fine-tuning. Ia menyebutnya pertanyaan terbuka, bukan trik yang sudah pasti. Untuk jangka dekat, ia memperkirakan tak akan ada model di atas 10 triliun parameter tahun ini, dengan frontier open dipegang Kimi, GLM 5.2, DeepSeek, dan Qwen.

Kenapa ini penting

Kalau Anda merancang strategi berbasis open model, intinya jarak beberapa bulan itu kemungkinan bertahan, sehingga menaruh tumpuan pada open weight tak lagi seberisiko setahun lalu. Dan jika Anda mengandalkan distillation sebagai alasan model murah terus mendekat, argumen Lambert adalah alasan untuk memeriksa ulang asumsi itu sebelum membangun strategi di atasnya.

Open ModelsChinaPost-training