Biaya AI turun sekitar 13 kali lipat per tahun untuk hasil yang sama
Luke Emberson dan David Roodman dari Epoch AI mencoba menghitung sesuatu yang dirasakan semua orang di bidang ini tapi jarang benar-benar diukur: seberapa cepat biaya untuk mencapai tingkat performa AI tertentu menyusut. Jawabannya, sepanjang 2023 sampai 2026, sekitar 13 kali lebih murah per tahun, atau kira-kira 47% tiap kuartal. Contoh paling jelas dalam laporan itu: o3 dari OpenAI meraih skor 75% di GPQA Diamond dengan biaya sekitar $0,30 per soal pada Januari 2025. Delapan belas bulan kemudian, GPT-5.6 Luna menyamai skor itu dengan biaya $0,0004 per soal, turun 725 kali lipat.
Lajunya tidak seragam. Soal matematika turun paling cepat, 50 sampai 52% per kuartal, sedangkan teka-teki bergaya game paling lambat di 39 sampai 43%. Biaya juga turun paling tajam tepat setelah suatu kemampuan pertama muncul, sekitar 66% per kuartal, lalu melandai ke sekitar 32% saat kemampuan itu berumur dua tahun. Sebagai pembanding, Epoch menyandingkannya dengan teknologi lain: penurunan ini sekitar 4 kali lebih cepat dari sekuensing DNA, 6 kali lebih cepat dari compute, dan 54 kali lebih cepat dari listrik.
Kenapa ini penting
Kalau sebuah kemampuan terlalu mahal untuk dirilis hari ini, asumsi perencanaan yang jujur adalah dalam setahun ia akan terjangkau, jadi rancang untuk itu sekarang alih-alih mencoretnya. Sisi lainnya: menetapkan harga produk berdasarkan biaya inference saat ini berarti membidik sasaran yang terus bergerak turun, dan itu mengubah margin serta persaingan lebih cepat dari perkiraan kebanyakan roadmap.