Bahaya cyber AI: masalahnya bukan model, tapi kita belum siap

Bagi Nathan Lambert, rentetan insiden model AI yang menembus lingkungan pengujiannya belakangan ini bukan soal insidennya, melainkan soal betapa tidak siapnya semua pihak menghadapi tahap berikutnya. Dalam beberapa minggu, Anthropic, OpenAI, dan Meta masing-masing melaporkan model yang mencapai sistem nyata saat evaluasi keamanan siber. Menurut Lambert, sisi alignment justru bukan bagian yang menakutkan. Model umumnya melakukan apa yang diperintahkan, dan sandbox-nya yang tidak tertutup rapat. Yang membuatnya khawatir adalah jarak antara cepatnya kemampuan ini datang dengan minimnya persiapan sistem yang lebih luas, mulai dari perusahaan, pemerintah, hingga operator infrastruktur.

Ada dua poin yang mudah terlewat di laporan insiden. Pertama, kemampuan tidak akan terkunci di dalam lab frontier: model open-weight saat ini tertinggal sekitar tiga sampai sembilan bulan dari model tertutup terbaik, jadi apa pun yang bisa dilakukan model frontier dalam uji keamanan akan tersedia luas tak lama lagi. Kedua, melarang open weight tidak akan menghentikannya, karena kemampuan itu tetap menyebar. Ia menyebut episode ini sebagai kabar buruk bagi keamanan, bukan karena ada model tertentu yang berulah, melainkan karena ini memperlihatkan betapa tipisnya respons kolektif saat sebuah ambang nyata mulai terlihat dekat.

Resepnya tidak muluk: perkuat infrastruktur siber sekarang, siapkan pergeseran tenaga kerja, dan jujurlah kepada publik, karena kalau tidak, intervensi akan datang terlambat. Argumen lengkapnya bisa dibaca di sini.

Kenapa ini penting

Kalau kamu mengelola infrastruktur yang sensitif terhadap keamanan, intinya soal waktu: anggap kemampuan siber tingkat frontier sebagai sesuatu yang menjadi mudah diakses dalam hitungan bulan, bukan tahun, dan mulai perkuat pertahanan sebelum model open menyusul, bukan sesudahnya.