Startup Naveen Rao bertaruh chip oscillator bisa pangkas daya inference AI 1.000x

Naveen Rao, yang pernah memimpin divisi AI di Databricks, mendirikan perusahaan bernama Unconventional AI dengan satu taruhan: chip yang menjalankan model AI saat ini salah desain. Tawarannya adalah komputasi berbasis oscillator, arsitektur yang melakukan inference lewat jaringan oscillator alih-alih logika silikon yang menggerakkan GPU sekarang. Rao mengklaim pendekatan ini bisa memangkas daya yang dibakar sebuah model saat inference hingga 1.000 kali. Laporan TechCrunch menyebut perusahaannya masih di bawah 50 karyawan.

Buktinya sejauh ini berupa model, bukan chip. Unconventional merilis Un-0, sebuah image generator yang menurut Rao setara dengan diffusion model mapan seperti Stable Diffusion. Masalahnya, Un-0 berjalan di atas simulasi software dari hardware oscillator, bukan hardware-nya langsung, yang memang belum ada. Skema chip yang sebenarnya, kata Rao, akan dirilis tak lama lagi.

Klaim 1.000x dari perusahaan yang masih jalan di simulasi layak disikapi hati-hati. Daya inference adalah tempat biaya membengkak setelah model dipakai, jadi hadiahnya nyata, dan Rao sudah pernah membangun sistem AI berskala besar. Tapi hasil simulasi dan silikon yang benar-benar dikirim adalah dua hal berbeda, dan di celah itulah kebanyakan taruhan hardware baru berguguran.

Kenapa ini penting

Kalau kamu membayar inference dalam skala besar, biaya menyajikan model, bukan melatihnya, yang mendominasi tagihan dari waktu ke waktu. Chip oscillator yang benar-benar bekerja akan mengubah hitungan itu, tapi belum ada satu pun di sini yang jalan di hardware nyata, jadi yang perlu dipantau adalah apakah skema yang dijanjikan berubah jadi silikon yang cocok dengan simulasinya.