Mercury 3 tunjukkan diffusion teks juga bisa diskalakan

Sebagian besar large language model menulis satu token demi satu token, dari kiri ke kanan. Inception justru membangun model diffusion, yang menyempurnakan seluruh blok teks secara paralel, dan Mercury 3 terbarunya jadi bukti paling jelas sejauh ini bahwa pendekatan itu bisa diskalakan. Inception menyebut Mercury 3 punya parameter lebih dari 40 kali lipat model Mercury pertamanya dan skor benchmark sekitar 3 kali lebih tinggi. Inti klaimnya di situ: hukum penskalaan yang membuat model autoregressive makin baik seiring bertambahnya ukuran ternyata berlaku pula untuk diffusion. Pertanyaan itu yang tersisa setelah Mercury 1 membuktikan model semacam ini layak dibangun untuk pemakaian komersial.

Daya tarik praktisnya ada di kecepatan. Inception melaporkan 1.068 token per detik di GPU Nvidia, 4 sampai 8 kali lebih cepat ketimbang model frontier yang dioptimalkan untuk kecepatan seperti GPT-6 Luna dan Claude Haiku 5.5, dengan klaim kualitas setara atau lebih baik. Pada uji browser agent memakai 50 tugas navigasi Mind2Web langsung, Mercury 3 menyelesaikan 50%, yang menurut Inception mengungguli GPT-6.1-Sol pada volume token serupa dengan biaya per token lebih rendah. Model ini punya context window 1 juta token, naik dari 260K di Mercury 2.5, dan dihargai $0,20 per juta token input serta $0,70 per juta token output. Model ini kompatibel dengan API OpenAI, jadi bisa langsung dipasang ke stack yang sudah ada. Hampir semua angka perbandingan berasal dari Inception atau mitra awal, dan tulisannya minim detail benchmark independen, jadi anggap klaim kualitas itu belum terverifikasi.

Kenapa ini penting

Kalau Anda menjalankan pekerjaan yang sensitif latensi seperti asisten suara, pencarian real-time, atau agent loop yang memanggil model berkali-kali, model secepat ini dengan kualitas kompetitif bisa memangkas waktu respons sekaligus biaya. Kecepatan adalah nilai jualnya, jadi yang perlu diuji di beban kerja Anda sendiri adalah apakah kualitasnya benar-benar bertahan pada laju itu, bukan sekadar angka token per detik di judulnya.