Yang menahan agent AI bukan kemampuan, tapi keandalan

Dalam keynote ICML 2026, Arvind Narayanan berpendapat bahwa angka paling menarik di AI saat ini justru yang tidak bergerak. Menurutnya, dalam 24 bulan terakhir kemampuan model melonjak tajam sementara keandalan, yang diukur lewat konsistensi, robustness, kalibrasi, dan keamanan operasional, hanya naik lima sampai sepuluh poin persentase. Selisih inilah yang membuat agent yang sepenuhnya otomatis terus mengecewakan, sedangkan agent yang bekerja berdampingan dengan manusia hasilnya lebih baik. Ia memposisikan AI sebagai teknologi biasa yang dampak sesungguhnya datang dari tahap adaptasi yang lambat, lebih mirip cara listrik memaksa pabrik dirancang ulang ketimbang pengganti langsung bagi pekerja, dan menurutnya tahap itu baru saja dimulai.

Contoh dari dunia software-nya konkret. Menulis kode hanya sekitar sepertiga dari pekerjaan, yaitu lapisan "execute"; lapisan "decide" untuk memahami kebutuhan dan lapisan "deliver" untuk integrasi dan pemeliharaan tidak dipangkas AI dan justru cenderung membesar saat bagian tengah menyusut. Ia mengingatkan bahwa lapangan kerja software engineering tetap tumbuh melewati gelombang produktivitas sebelumnya, dan menarik analogi lama soal teller bank setelah ATM serta radiolog. Ia juga memisahkan empat hal yang sering disamaratakan sebagai AI canggih: recursive self-improvement, kecerdasan setara manusia, AI yang mengubah ekonomi, dan superintelligence. Prediksinya, upaya manusia bergeser dari membangun ke evaluasi, penilaian, dan pengarahan, dan evaluasi yang baik akan menjadi kekayaan intelektual sesungguhnya bagi sebuah perusahaan. Paparan lengkapnya ada di sini.

Kenapa ini penting

Kalau kamu merencanakan perekrutan atau otomatisasi berdasarkan coding agent, kendala sesungguhnya adalah keandalan serta pekerjaan decide dan deliver di sekitar kode, bukan kemampuan mentah model menghasilkan kode itu.