Nathan Lambert: debat risiko siber model terbuka kehilangan bukti

Argumen Nathan Lambert dalam The Cyber Risk Discourse is Broken adalah bahwa perdebatan soal model open-weight sudah mengeras jadi slogan, padahal buktinya menunjuk ke arah sebaliknya. Ia membagi debat itu ke tiga kubu: para pemimpin lab dan kalangan keamanan nasional yang menganggap open weight risiko yang tak bisa ditoleransi, kaum moderat yang menilai pelarangan justru memperburuk keadaan, dan perusahaan Tiongkok yang terus merilis model terbuka kuat berdasarkan penilaian risiko mereka sendiri.

Poin terkuatnya soal dari mana serangan nyata berasal. Orang-orang yang mendapat pengarahan rahasia diam-diam memperingatkan gelombang serangan bertenaga model terbuka Tiongkok, tapi Lambert mencatat bahwa catatan publik, termasuk kerja seperti FelonyBench, justru lebih banyak mengaitkan serangan siber nyata dengan model tertutup, termasuk milik OpenAI. Ia memakai laporan GLM-5.3 dari Anthropic untuk memperkuat argumen: kemampuan Mythos milik Claude awalnya digambarkan sebagai kelas senjata siber baru, padahal GLM-5.3 sudah melewati ambang itu, dan lebih dari sebulan setelah rilis nyaris tak ada tanda publik soal kerugian besar. Jadi model terbuka yang bocor akan mempercepat risiko yang sudah ada, bukan menciptakan jenis risiko baru.

Logikanya berlaku dua arah. Kalau open weight pantas dilarang atas alasan siber, API tertutup yang terbuka untuk publik juga pantas dilarang, karena kemampuannya bisa melampaui pengamannya. Di jaringan pemerintah yang air-gapped, model terbuka bisa jadi satu-satunya alat pertahanan yang bisa dipakai.

Kenapa ini penting

Kalau Anda bekerja di kebijakan AI atau tata kelola model, tulisan ini mendorong Anda memperlakukan risiko siber sebagai trade-off dengan prediksi yang bisa diuji, bukan perkara yang sudah selesai. Bersikaplah skeptis terhadap argumen yang tak bisa Anda cek terhadap data serangan publik, dan perhatikan apakah gelombang kerugian model terbuka yang diramalkan itu benar-benar muncul.