Armin Ronacher soal titik gagal saat coding agent dibiarkan nge-loop

Armin Ronacher, sosok di balik Flask, menulis esai cermat soal apa yang terjadi ketika coding agent berjalan dalam loop dengan sedikit pengawasan manusia. Ia memisahkan dua jenis. Loop dalam adalah agent yang memanggil tool di satu sesi. Loop luar adalah harness yang menjalankan agent berulang kali, dengan manusia atau mesin lain menilai tiap putaran. Loop luar inilah yang sedang mengambil alih, dan itu yang ia khawatirkan.

Pengamatannya yang paling tajam soal bagaimana kualitas kode menurun. Menurutnya, model cenderung melihat satu kegagalan lokal lalu menambah pertahanan lokal, lalu satu lagi, lalu satu lagi. Ditumpuk lewat banyak iterasi, hasilnya sistem yang defensif, penuh duplikasi, dan rumit, kebalikan dari desain bersih yang dibangun di atas invariant yang kuat. Kode seperti itu sulit dipegang utuh oleh manusia. Loop justru bekerja baik, katanya, pada tugas yang mekanis atau sekali pakai: porting kode antar bahasa, mengeksplorasi perubahan performa, memindai isu keamanan, atau riset yang keluarannya memang sementara. Ia kesulitan tepat di tempat arsitektur jangka panjang dan pemahaman manusia paling penting.

Ronacher tidak yakin ada yang bisa benar-benar keluar dari tren ini. Tim yang pandai memakai loop akan bergerak lebih cepat ketimbang yang tidak, sama seperti penyerang yang menjalankan loop otomatis memaksa pihak bertahan ikut melakukannya. Kekhawatiran utamanya soal pemahaman: basis kode yang mengandaikan mesin selalu hadir untuk mendiagnosis dan merawatnya, berubah jadi organisme yang harus terus dipantau, bukan mesin yang bisa dimengerti penuh oleh seseorang. Pertanyaan yang ia biarkan terbuka: bagaimana menjaga penilaian manusia dalam proses yang dirancang berjalan tanpanya.

Kenapa ini penting

Kalau kamu sedang memutuskan di mana agent boleh jalan tanpa diawasi, esai ini memberi garis yang bisa dipakai: kerja mekanis atau sekali pakai aman, tapi arsitektur inti yang akan kamu rawat bertahun-tahun adalah tempat loop diam-diam menagih ongkosnya. Perhatikan pola tumpukan tambalan lokal di keluaran agent, karena itu tanda awal basis kodemu mulai bergeser jadi sesuatu yang hanya bisa dibaca mesin.