Rancangan aturan dari Anthropic bisa memblokir rilis model yang berisiko menewaskan 50 orang

Anthropic menyusun rancangan undang-undang keselamatan AI federal dan menawarkannya ke Kongres AS. Politico lebih dulu memberitakannya, dan TechCrunch mengonfirmasi lewat juru bicara perusahaan. Intinya adalah tombol henti yang sempit: pemerintah bisa memblokir rilis sebuah model jika ada risiko yang dapat diperkirakan dan segera terjadi, yang menyebabkan lebih dari 50 orang tewas atau kerusakan properti lebih dari 1 miliar dolar. Risiko itu harus berasal dari salah satu dari tiga sumber: senjata biologis, model yang lepas dari kendali pengembangnya, atau serangan siber. Ambang ini meniru SB 53 California, yang memakai angka serupa untuk mendefinisikan risiko katastrofik.

Mekanismenya cukup rinci. Evaluator independen yang terdaftar di Departemen Perdagangan akan menilai model, dan lab boleh membayar mereka selama bayaran itu tidak bergantung pada hasil penilaian. Jika evaluator menemukan risiko katastrofik yang segera terjadi, ia punya waktu 72 jam untuk memberi tahu Departemen Perdagangan, yang lalu meminta hakim federal di Washington menghentikan rilis tersebut. Rancangan ini juga melarang masing-masing badan federal memblokir model atas wewenang sendiri, dan mengalihkan kuasa itu ke jalur pengadilan.

Yang menonjol adalah betapa sempitnya pemicunya. Rancangan ini justru mengesampingkan masalah yang paling sering dibahas lab, yaitu agentic hacking, serta kasus-kasus terbaru ketika program AI dilaporkan mengabaikan operatornya dan membobol situs web. Anthropic menyatakan rancangan ini mencerminkan Advanced AI Framework miliknya, yang sudah didorong ke para pembuat kebijakan sejak Juni. Sebagian besar industri menolak pengawasan wajib: Jensen Huang dari Nvidia berpendapat tidak perlu aturan baru, sementara Demis Hassabis pernah melontarkan ide badan swakelola yang meniru regulator keuangan FINRA. Usulan Anthropic melangkah lebih jauh dari keduanya.

Kenapa ini penting

Jika Anda membangun atau men-deploy model frontier, ini usulan konkret pertama dari lab besar soal kapan pemerintah benar-benar boleh menghentikan sebuah rilis, dan batas 50 korban jiwa serta satu miliar dolar menunjukkan skenario apa yang menjadi sasarannya. Ambang itu dan skema membayar evaluator adalah bagian yang akan paling diperdebatkan jika rancangan ini jadi undang-undang, jadi layak dibaca sekarang, bukan setelah sebuah komite menulisnya ulang.