Model kecil yang murah dan cepat membuka kelas produk AI baru

Calvin French-Owen menyampaikan argumen ekonomi yang sederhana dalam "Small Models Have Arrived": gelombang model kecil yang cepat diam-diam mengubah produk mana yang layak dibangun. Contohnya konkret. Sebuah tugas berita terpersonalisasi yang dulu makan biaya sekitar satu dolar per pemrosesan di model lama, sekarang cukup sekitar sepuluh sen dengan gpt-5.6-luna yang melayani kira-kira 100 token per detik. Itu penurunan sepuluh kali lipat, dan cukup untuk memindahkan fitur AI konsumen dari kategori "terlalu mahal untuk dirilis" menjadi "jelas layak dikerjakan".

Berangkat dari obrolan dengan salah satu pendirinya, Peter Rein, French-Owen membagi pekerjaan jadi dua jenis. Ada pekerjaan "IQ 180", pemecahan masalah baru yang butuh wawasan tingkat jenius, dan ada pekerjaan "token spewer", kemajuan bertahap yang stabil di banyak titik kecil. Ia memperkirakan sekitar 95% pekerjaan bisnis masuk jenis kedua, di mana kecepatan respons dan biaya jauh lebih penting daripada kecemerlangan mentah. Model frontier tetap sepadan dengan harganya untuk 5% yang sulit, terobosan di rekayasa dan sains, tapi untuk sisanya ia menduga permintaan bergeser ke model yang cepat, murah, dan cukup baik. Ia juga menyebut GLM 5.3 sebagai penantang baru di garis depan harga-performa, pengingat bahwa ini adalah lomba menuruni kurva biaya, bukan cerita satu vendor saja.

Kenapa ini penting

Kalau kamu sedang memilih model untuk menopang sebuah fitur, kebiasaan langsung mengambil yang terkuat kini sering menjadi pilihan yang keliru. Memetakan beban kerja ke 95% yang bisa ditangani model kecil dan 5% yang benar-benar butuh model frontier bisa memangkas tagihan inference kamu hingga sepersepuluh, sekaligus membuat produk yang tahun lalu tidak ekonomis jadi layak diprototipekan hari ini.