Google rilis DiffusionGemma, taruhan baru pada teks diffusion

Google merilis DiffusionGemma, model open-weight eksperimental yang menghasilkan teks lewat diffusion alih-alih decoding autoregressive. Ini model mixture-of-experts berukuran 26B dengan 3,8B parameter aktif per step, dirilis di Hugging Face dengan lisensi Apache 2.0. Alih-alih mengeluarkan satu token per langkah, model menyusun blok 256 token secara paralel lalu menyempurnakannya lewat beberapa pass, mirip cara kerja model diffusion untuk gambar.

Argumen utama Google adalah kecepatan. Mereka melaporkan lebih dari 1.000 token per detik di NVIDIA H100 dan sekitar 700 di RTX 5090 kelas konsumer, dengan versi kuantisasi yang muat di VRAM 18 GB. Trade-off-nya: kualitas keluaran lebih rendah dari Gemma 4 standar pada ukuran setara. Google menyebut ini pilihan sadar. Diffusion menggeser hambatan inference dari memory bandwidth ke compute mentah, dan itu cocok untuk code infilling, editing in-line, atau beban kerja interaktif lain saat draft cepat lebih berharga ketimbang jawaban paling baik.

Rilis ini juga menandakan model teks diffusion mulai keluar dari ranah riset jadi sesuatu yang bisa langsung dicoba developer. Soal apakah gap kualitasnya menyusut di rilis berikutnya tetap jadi pertanyaan utama untuk tekniknya sendiri.

Kenapa ini penting

Kalau kamu membangun tooling yang keluhan utama penggunanya adalah latency, DiffusionGemma jadi bobot terbuka pertama yang bisa diadu langsung dengan baseline autoregressive di workload sendiri. Pertanyaan yang tepat bukan apakah ia sepintar Gemma 4, melainkan apakah peningkatan kecepatannya benar-benar menggerakkan metrik produk yang kamu pedulikan.