Moebius, model inpainting 0.2B yang menyaingi model 12B

Tim dari Huazhong University of Science and Technology dan VIVO AI Lab merilis Moebius, model image inpainting berukuran 226 juta parameter yang performanya setara dengan sistem sekitar lima puluh kali lebih besar. Inpainting adalah tugas mengisi bagian gambar yang ditutup agar hasilnya tampak menyatu, dan opsi open terbaik sejauh ini adalah FLUX.1-Fill-Dev dengan 11,9 miliar parameter. Ukuran Moebius kurang dari 2 persen dari itu. Di enam benchmark yang mencakup pemandangan alami (Places2) dan wajah (CelebA-HQ, FFHQ), penulis melaporkan kualitas yang menyamai atau mengungguli FLUX.1-Fill-Dev dan SD3.5 Large-Inpainting.

Selisih kecepatannya yang paling terasa di praktik. Moebius menjalankan satu step sekitar 26 milidetik pada satu GPU dan lebih dari 15 kali lebih cepat secara keseluruhan dibanding model kelas 10B. Dua gagasan jadi tumpuan utamanya. Pertama, attention standar diganti dengan yang penulis sebut Local-λ Mix Interaction block, yang memadatkan konteks spasial dan global ke dalam matriks linear berukuran tetap sehingga menghindari biaya kuadratik attention. Kedua, resep distillation yang memindahkan pengetahuan dari teacher besar sepenuhnya di latent space, dengan loss yang menyesuaikan bobotnya di berbagai tingkat supervisi.

Klaim penulis sempit tapi layak dicatat: skala bukan satu-satunya jalan menuju kualitas ketika tugasnya terdefinisi jelas. Model khusus yang dilatih cermat bisa menyamai model umum yang jauh lebih besar. Halaman proyeknya memuat tabel benchmark dan perbandingan kualitatif.

Kenapa ini penting

Kalau kamu mengirim fitur inpainting atau editing foto di ponsel atau GPU murah, model 226M dengan kualitas setara FLUX mengubah apa yang muat di perangkat. Ini juga bukti konkret untuk taruhan yang lebih luas: model kecil yang spesifik bisa menggantikan model besar serbaguna saat tugasnya sempit.