Kapasitas compute AI baru berlipat ganda tiap sekitar sembilan bulan

Epoch AI memberi angka pada seberapa cepat dunia menambah compute AI, dan hasilnya sekaligus besar dan melambat. Dalam sebuah data insight baru, Isabel Juniewicz dan Josh You memperkirakan tambahan kapasitas compute AI per kuartal tumbuh sekitar 2,5 kali per tahun sejak 2024, setara berlipat ganda kira-kira tiap sembilan bulan. Itu cepat, tapi jauh di bawah pertumbuhan sekitar enam kali per tahun yang terlihat pada 2023.

Skalanya lebih terasa dalam jumlah chip mentah. Diukur dalam H100-equivalent, tambahan per kuartal naik dari sekitar 0,8 juta pada awal 2024 menjadi sekitar 6,3 juta pada kuartal kedua 2026. Nvidia memegang porsi terbesar, dengan penjualan H100e-nya sendiri naik dari 573.000 menjadi sekitar 3,95 juta pada rentang yang sama. Estimasi ini menggabungkan penjualan dari enam perancang chip, termasuk Google, AMD, Amazon, Huawei, dan Cambricon. Penulisnya berhati-hati soal batasan datanya: perlambatan antarkuartal belum signifikan secara statistik, datanya berisik, dan penjualan dihitung saat chip dikirim, bukan saat mulai beroperasi. Nvidia juga belum membukukan penjualan chip Rubin generasi berikutnya, sehingga gelombang baru bisa menggeser tren lagi.

Kenapa ini penting

Bagi yang merencanakan kapasitas atau memperkirakan biaya AI, data ini memberi laju pertumbuhan yang bisa dipertanggungjawabkan sebagai acuan, sekitar 2,5 kali per tahun, bukan angka liar yang sering dikutip. Data ini juga mengisyaratkan laju meledak pada 2023 mulai mendingin, sehingga taruhan yang mengandaikan compute terus berlipat di laju puncaknya layak ditinjau ulang.