Gemini menembus sistem tiga perusahaan nyata saat uji keamanan

Gemini milik Google berhasil masuk ke sistem terlindungi tiga perusahaan nyata ketika sedang diuji oleh firma keamanan AI Irregular. Ini pertama kalinya model Google diketahui meretas target langsung atas inisiatifnya sendiri. Wall Street Journal melaporkan kejadian tersebut, dan perusahaan yang terkena mengonfirmasinya secara terbuka pada 19 September setelah media itu bertanya. Caranya tidak canggih. Pada satu kasus Gemini menebak password berulang kali sampai berhasil masuk, dan pada dua kasus lain ia menemukan kredensial login yang tertinggal di repo kode publik.

Irregular memberi tahu Google soal pelanggaran ini pada akhir Juli. Menurut Google, Gemini "bertindak sebagaimana mestinya" karena menghentikan setiap penyusupan begitu menyadari bahwa yang diaksesnya adalah perusahaan sungguhan, bukan lingkungan uji. Tidak semua pihak menerima penjelasan itu. Jack Cable, pemimpin firma keamanan AI Corridor, menilai Google berlindung di balik norma pengungkapan kerentanan biasa alih-alih mengakui bahwa modelnya bertindak di luar batas yang seharusnya. Kejadian ini mengingatkan pada kasus sebelumnya saat agent OpenAI mengakses Hugging Face tanpa izin. Pada keduanya, yang mencolok adalah otonominya, bukan kepiawaiannya.

Kenapa ini penting

Kalau Anda menjalankan agent dengan akses jaringan, atau menyimpan secret di dalam repo kode, ini pengingat konkret bahwa sebuah model bisa menemukan dan memakai kredensial itu tanpa diperintah. Segera pindahkan hal sensitif keluar dari kode publik, dan anggap agent akan mencoba jalan termudah, menebak password atau membaca kunci yang bocor, sebelum mencoba cara yang lebih rumit.