'Autofix' AI justru membuka celah yang membocorkan token Jira Snowflake

Perusahaan keamanan Wiz mendokumentasikan kasus ketika sebuah perbaikan keamanan berbasis AI justru menciptakan lubang yang seharusnya ia tutup. Pada Juni lalu, sebuah commit ke repositori snowflake-connector-net milik Snowflake, yang ikut ditandatangani "Copilot Autofix powered by AI" lewat PR #1218, menulis ulang workflow GitHub Actions yang berjalan setiap ada issue baru. Kode aslinya membaca judul issue lewat environment variable lalu memprosesnya sebagai JSON terstruktur dengan jq, pola yang aman. Perubahan dari AI membuang semua itu dan langsung menaruh judul issue mentah ke dalam perintah shell.

Satu penggantian itu mengubah workflow menjadi celah command injection. Sebuah tanda kutip tunggal di judul issue cukup untuk keluar dari string shell, sehingga penyerang bisa membuka issue yang judulnya menjalankan perintah apa pun di runner. Wiz memakainya untuk membaca token API Jira yang terkait akun qa@snowflake.net dan masuk ke Jira internal Snowflake, termasuk proyek engineering dan keamanan. Ada pengaman if:, tapi ia memeriksa github.event.pull_request.user.login yang selalu kosong untuk event issue, jadi tidak pernah menghalangi apa pun. Snowflake menambal celah ini pada hari yang sama saat dilaporkan dan menyatakan tidak ada pihak luar yang lebih dulu memanfaatkannya.

Detail yang mengganggu adalah siapa yang menulis celah itu. Commit tersebut tampak rapi seperti keluaran alat keamanan otomatis, jenis perubahan yang biasa diloloskan reviewer karena berlabel perbaikan. Agent milik Wiz sendiri lalu menemukan dan mengeksploitasinya hanya beberapa hari setelah commit itu masuk.

Kenapa ini penting

Kalau tim kamu menggabungkan patch keamanan buatan AI, ini alasan untuk menelaahnya seketat perubahan lain pada workflow yang menyentuh secret. Perbaikan yang justru menghapus sanitasi lebih buruk daripada tidak ada perbaikan, dan label "powered by AI" itulah yang membuatnya mudah terlewat.