Biarkan Claude memilih model murah untuk tugas remeh

Kebanyakan saran soal mengarahkan coding agent berfokus pada menulis instruksi yang lebih ketat. Simon Willison justru sampai pada kesimpulan berbeda: dengan model sekelas Claude Fable, hasilnya lebih baik kalau ia menyerahkan penilaian ketimbang aturan. Alih-alih instruksi kaku seperti "hanya pakai automated testing untuk fitur besar, jangan jalankan tes untuk perubahan teks atau desain kecil," ia kini cukup menyuruh model "memakai penilaiannya sendiri saat memutuskan perlu menulis tes atau tidak." Model membaca situasi lebih baik daripada yang bisa dijelaskan aturan kaku.

Yang lebih menarik adalah dampaknya pada biaya. Willison menambahkan satu baris ke pengaturannya: "Untuk semua tugas coding, pakai penilaianmu untuk memilih model berdaya lebih rendah dan jalankan itu di subagent." Fable lalu menyimpan pekerjaan yang memang butuh kekuatannya, yaitu desain, audit, dan merangkai hasil, dan mengoper sisanya. Implementasi berat diberikan ke Sonnet, suntingan sepele ke Haiku, masing-masing berjalan sebagai subagent yang keluarannya ditinjau Fable di loop utama sebelum apa pun di-commit. Ia mengaku menyelesaikan banyak pekerjaan sementara jatah token Fable-nya berkurang lebih lambat dari biasanya.

Kenapa ini penting

Kalau Anda membayar model premium tapi jatahnya habis untuk suntingan rutin, ini perubahan kecil dengan hasil langsung: satu prompt yang membuat model mahal mendelegasikan pekerjaan murah sambil tetap memeriksanya. Konsekuensinya adalah soal kepercayaan, karena Anda membiarkan model menentukan kapan model yang lebih lemah sudah cukup, jadi pertahankan langkah tinjau-sebelum-commit alih-alih melewatinya.