Anthropic: open-weights jangan dilarang, atur chip dan distillation-nya

Anthropic akhirnya menyatakan sikap resminya soal model open-weights: mereka tidak ingin model semacam itu dilarang. Dario Amodei menulis bahwa perusahaan tidak pernah mengusulkan larangan, dan model terbuka yang belum punya kapabilitas berbahaya justru bermanfaat bagi publik. Kekhawatiran utamanya bukan open source itu sendiri, melainkan soal strategi: pemerintah otoriter, terutama China, bisa memiliki model yang lebih kuat dari milik Amerika Serikat dan memakainya untuk keunggulan militer atau kontrol dalam negeri. Risiko penyalahgunaan untuk serangan siber dan biologis ada di urutan berikutnya, dan di sini open weights lebih sulit dikendalikan karena guardrails tidak bisa dipasang setelah rilis dan bobot model tidak bisa ditarik kembali.

Sebagai ganti larangan, Anthropic mengusulkan tiga kontrol yang lebih spesifik. Pertama, menjaga chip canggih tetap jauh dari China lewat aturan ekspor sekaligus menutup jalur penyelundupan. Kedua, menindak distillation skala industri, yang menurut Amodei bisa membuat lab China melatih model hanya beberapa bulan di belakang frontier AS meski akses chip mereka terbatas. Ketiga, mewajibkan uji keamanan pra-rilis untuk risiko siber, biologis, dan alignment pada setiap model yang cukup mampu, terbuka maupun tertutup, termasuk model buatan China. Anthropic juga berbeda pendapat dengan sebuah surat terbuka industri soal open-weights, dan menolak anggapan bahwa model terbuka otomatis lebih menguntungkan pihak bertahan ketimbang penyerang. Sikap lengkapnya bisa dibaca di sini.

Kenapa ini penting

Kalau kamu membangun produk di atas model open-weight, pertarungan regulasi sebenarnya bukan soal boleh atau tidaknya mengunduh bobot model. Yang menentukan justru chip, distillation, dan uji keamanan wajib, karena di situlah kebijakan bisa mengubah model apa saja yang tersedia dan apa yang boleh kamu rilis.