Nathan Lambert tinjau ulang pendapatnya soal open model dan risiko siber

Pada April lalu, Nathan Lambert menulis bahwa merilis open weight dari Claude Mythos milik Anthropic akan "kurang lebih baik-baik saja," sekadar mempercepat risiko yang sudah ada, bukan lonjakan besar. Setelah serangkaian pengungkapan kerentanan serius di akhir Oktober yang ia juluki "Black October," termasuk PHP2Shell dan sebuah bug GitLab, lalu disusul peretasan kripto besar di Binance, ia memeriksa kembali alur pikirnya sendiri. Kesimpulannya terbelah. Kata "baik-baik saja" keliru, dan ia memperkirakan periode yang bergejolak dan mahal selagi pihak bertahan mengejar ketertinggalan. Namun ia tetap menilai perdebatan open versus closed salah fokus, karena yang benar-benar menaikkan risiko adalah kemampuan model dan seberapa luas ia tersebar.

Bukti yang ia pakai cukup konkret. Epoch AI mengambil GLM-5.3, sebuah open model, lalu memakainya untuk menemukan kerentanan di Firefox dan merangkainya jadi exploit yang bisa mencuri berkas ketika seseorang sekadar membuka halaman berbahaya. Bagi Lambert, itu bukti bahwa kerugian nyata butuh beberapa langkah yang selaras, bukan sekadar menemukan bug. Ia menunjuk kurva pertumbuhan CVE dan data dari Joshua Saxe yang menunjukkan laju exploit sudah naik jauh sebelum ChatGPT ada, sehingga peristiwa terakhir berada di tren eksponensial yang panjang. Ia juga berargumen model tertutup kemungkinan ada di balik sebagian besar peretasan terbaru, mengutip RUSI, meski dengan margin kesalahan yang sangat lebar. Seorang pembaca, Chris Hughes, menambahkan bahwa riset keamanan banyak mengalir ke sisi serangan sementara pertahanan kurang diperhatikan, sebagian karena serangan lebih mudah diukur.

Kenapa ini penting

Bagi yang menyusun kebijakan atau strategi keamanan seputar AI, tulisan ini jadi penyeimbang yang hati-hati terhadap narasi "open weight itu bencana" yang lebih nyaring. Intinya: siapkan anggaran untuk masa penyesuaian yang berat dan danai perkakas pertahanan sekarang, alih-alih bertaruh bahwa menahan open model akan menjauhkan penyerang.