Kenapa agen riset AI tidak overfitting meski diuji ratusan kali

Teori machine learning punya peringatan klasik: kalau sebuah ide terus diuji pada validation set yang sama, cepat atau lambat model akan menangkap noise, bukan pola sebenarnya. Karena itu ada teka-teki yang mengganggu para peneliti yang memakai large language model sebagai agen riset otomatis. Agen semacam ini mengusulkan strategi, menilainya pada data uji, memperbaiki, lalu mengulang ratusan kali, persis loop yang seharusnya menghasilkan overfitting. Namun kenyataannya hasil mereka sering tetap general. Tim di Amazon Science mencoba menjelaskan sebabnya.

Percobaan mereka memakai tiga agen berurutan. Agen explorer mengoptimalkan strategi terhadap validation set selama ratusan putaran. Agen compressor lalu memampatkan tiap strategi pemenang menjadi prompt yang sangat pendek, antara 16 sampai 32 token di delapan dataset. Terakhir, agen reproducer yang hanya diberi prompt pendek itu dan data training, tanpa akses ke validation set, mencoba menyamai hasil aslinya. Umumnya berhasil. Ketika peneliti sengaja memaksa agen melakukan overfitting, triknya patah: keunggulannya hilang begitu strategi harus lewat prompt yang sempit itu.

Penjelasannya gagasan lama yang jadi konkret. Strategi yang muat dalam 16 token tidak mungkin diam-diam menghafal seluruh dataset, jadi apa pun yang bertahan setelah dipampatkan pasti menggambarkan struktur nyata. "What fits doesn't overfit," tulis mereka, dan itu mengubah kompresi menjadi sekaligus penjelasan dan alat uji apakah agen benar-benar belajar sesuatu. Detail lengkapnya ada di tulisan Amazon Science.

Kenapa ini penting

Kalau Anda membangun agen yang menyetel dirinya sendiri terhadap sebuah benchmark, kompresi bisa jadi pemeriksaan kejujuran yang murah: paksa resep pemenang menjadi beberapa token lalu jalankan ulang dari awal. Yang bertahan kemungkinan besar metode asli, sedangkan yang berantakan adalah overfitting yang tanpa cek ini mungkin sudah telanjur Anda pakai.