Nathan Lambert belum yakin AI bisa memperbaiki dirinya sendiri secepat itu

Recursive self-improvement, gagasan bahwa sistem AI akan mulai meningkatkan dirinya sendiri lalu memicu ledakan kecerdasan, sudah jadi alasan favorit banyak orang untuk memperkirakan lonjakan kemampuan yang tiba-tiba. Nathan Lambert tidak percaya pada versi cepatnya. Argumennya bertumpu pada letak hambatan yang sebenarnya. Riset yang bisa diotomatisasi AI saat ini masih sempit, tulisnya, dan metode yang ada bagus untuk menyelesaikan masalah yang sudah kita tahu cara merumuskannya, bukan untuk merambah persoalan asing yang lebih sulit. Menjalankan ribuan agent secara paralel pun menemui diminishing returns, dan bagian lambat dalam membangun model frontier, dari urusan politik sampai infrastruktur fisik, justru bagian yang tidak bisa dipercepat AI.

Yang ia perkirakan justru sesuatu yang ia sebut lossy self-improvement: AI membuat dirinya lebih murah dijalankan dan mengambil alih kerja rutin seperti memantau eksperimen dan menulis software, sehingga siklus iterasi pada masalah yang bisa diverifikasi jadi lebih pendek. Itu berguna, tapi tidak menaikkan batas atas kecerdasan mentah seperti yang dijanjikan skenario ledakan. Ia menunjuk system card Claude milik Anthropic sendiri, yang menyatakan perusahaan belum melihat tanda jelas akselerasi dramatis melampaui laju kemajuan saat ini. Post-training tetap sulit diotomatisasi karena butuh penilaian manusia soal bagaimana model berperilaku di situasi yang berantakan.

Kenapa ini penting

Kalau rencanamu berasumsi ada takeoff jangka pendek saat AI merancang ulang AI, Lambert memberi alasan konkret untuk menahan diri dan menyiapkan diri pada perbaikan yang stabil dan menumpuk perlahan. Hasil jangka pendeknya adalah inference yang lebih murah dan loop engineering yang lebih cepat, bukan mesin yang menulis ulang dirinya sampai lepas dari bantuan manusia.