Model 4B yang mengalahkan perencana kueri Postgres

Rohan Bansal ingin mengalahkan perencana kueri (query planner) bawaan Postgres memakai model kecil, dan ia mendokumentasikan seluruh prosesnya. Ia melakukan fine-tuning model 4B, sebuah distilasi Qwen 3.8, dengan LoRA, sehingga hanya 21 juta parameter yang dilatih, lalu membungkusnya dalam agent berisi enam tool untuk memeriksa tabel dan menguji rencana kueri. Pelatihannya dua tahap: menyuling jejak penalaran dari GPT-6 Astra sebagai guru, lalu memperbaikinya lewat reinforcement learning dengan varian GRPO buatan sendiri yang reward-nya diukur terhadap rencana default Postgres.

Hasilnya spesifik. Pada Join Order Benchmark, 113 kueri di atas dataset IMDb, model hasil tuning mencapai percepatan rata-rata geometrik 1,81x dengan sampling best-of-three, memperbaiki 68 dari 113 kueri lebih dari 5%, dan tidak membuat satu pun melambat. Sebaliknya, model 4B mentah gagal pada 99 kueri sebelum dilatih. Sebagian besar tulisannya justru soal melawan derau pengukuran: ia menaikkan shared_buffers Postgres dari 128 MB ke 2 GB untuk memangkas variasi waktu dari sekitar 5% menjadi 0,9%, dan membatasi reward percepatan agar satu putaran yang kebetulan bagus tidak menipu model.

Sisi ekonominya adalah kejutan yang tenang. Seluruh proyek menghabiskan sekitar $1.200: kira-kira $800 untuk 95 jam pada node sewaan 2xH100 dan $400 untuk biaya API. Tulisannya membahas desain reward dan kasus-kasus gagal, bukan hanya keberhasilannya.

Kenapa ini penting

Kalau Anda punya masalah optimasi yang sempit dan terukur, ini resep nyata untuk melatih model kecil khusus yang mengalahkan sistem hasil penyetelan manual, dengan biaya seharga sebuah laptop. Bagian sulitnya bukan modelnya, melainkan merancang reward yang tidak bisa dikelabui oleh derau pengukuran.