Agen AI bantu tulis kernel QR yang 232 kali lebih cepat dari PyTorch

Sankalp mengikuti lomba kernel GPU dan memakai agen AI untuk menggarap sebagian besar pekerjaan optimasi, dan berakhir dengan kernel QR decomposition batched yang berjalan 232 kali lebih cepat dari bawaan PyTorch, torch.geqrf. Secara konkret, rata-rata geometrik pada berbagai bentuk matriks turun dari sekitar 419.000 mikrodetik menjadi 1.805. Hasil itu cukup untuk peringkat ke-12 dari 183 peserta, dicapai lewat lebih dari 1.500 pengiriman selama 14 hari.

Bagian menariknya adalah bagaimana pekerjaan itu dibagi. Sankalp menjalankan GPT-5.5 sebagai Codex untuk agen optimasi utama, menulis dan merevisi kernel Triton, dengan Claude Pro sebagai penasihat untuk memperjelas konsep dan Modal menangani profiling GPU. Manusianya menetapkan arah dan algoritmanya: metode blocked Householder dengan representasi WY, yang menjaga kerja lambat kolom demi kolom tetap di dalam panel-panel sempit dan mengubah sebagian besar hitungannya menjadi perkalian matriks besar yang cocok dengan tensor core. Menurut Sankalp, sebagian besar usaha justru dipakai untuk menekan overhead panel dan membuat update lebih ramah GEMM, bukan mengejar memori atau compute mentah.

Beginilah wujud kerja performa berbasis agen saat ini. Bukan satu prompt cerdas, melainkan 1.500 iterasi dari loop yang diarahkan manusia, tempat model menangani penulisan ulang kernel yang membosankan dan manusia menyuplai wawasan numeriknya.

Kenapa ini penting

Kalau Anda menggeluti performance engineering, ini template yang realistis: pilih sendiri algoritmanya, lalu biarkan agen menggilir loop implementasi dan profiling. Angka 232x itu nyata, tapi begitu juga 14 hari dan 1.500 percobaan yang dibutuhkan untuk sampai ke sana.