Pandangan tandingan Nathan Lambert: self-improvement bakal lossy, bukan eksplosif

Nathan Lambert sengaja memasang penyeimbang untuk narasi recursive self-improvement. Istilahnya lossy self-improvement: AI memang jadi sentral dalam membangun AI, tapi friksi mencegah loop-nya menggulung jadi takeoff bergaya singularity. Tulisan ini terbaca seperti balasan langsung untuk tesis "AI membangun dirinya sendiri", dan ketidaksepakatan itulah intinya.

Ia menyebut tiga penghambat. Otomasi masih sempit: AI mengoptimalkan satu metrik dengan baik tapi keok pada penilaian banyak metrik sekaligus, yang justru jadi inti riset sungguhan. Parallelization cepat jenuh, sebab menambah agent membentur Amdahl's law, dan yang jadi kendala adalah intuisi manusia serta waktu eksperimen, bukan compute. Friksi organisasi, rebutan sumber daya dan pengawasan manusia, juga tidak ikut terotomasi. Kesimpulannya, kemajuan terasa eksplosif di dasar kurva sigmoid tapi tetap lebih dekat ke linear: AI hebat menanjak bukit, tapi belum bisa menemukan pendekatan yang benar-benar baru sendirian. Esai lengkapnya di Interconnects.

Kenapa ini penting

Kalau rencanamu mengasumsikan takeoff cepat, inilah argumen pengujinya. Baca berdampingan dengan kubu recursive-improvement, dan ketidaksepakatannya jadi konkret serta bisa dicek: amati apakah AI mulai menangani penilaian riset banyak metrik, sebab di situlah engsel yang sebenarnya jadi titik putar kedua kubu.