Anthropic beri METR akses setara karyawan untuk audit keamanan

Anthropic menyatakan mulai membuka akses nyata ke dalam perusahaan bagi pihak luar. Enam staf METR, lembaga nirlaba yang menguji model frontier, kini punya perangkat perusahaan, ruang kerja, dan tools internal yang kurang lebih setara dengan yang dipakai tim penilai risiko Anthropic sendiri. Karyawan didorong untuk berbagi informasi dengan mereka. Yang tertutup hanya tiga kategori sempit: data pelanggan, materi yang dilindungi hak istimewa pengacara-klien, dan detail arsitektur model. Anthropic tidak bisa memveto publikasi METR, meski bisa meminta redaksi pada beberapa kategori yang sudah ditetapkan, dan METR bebas menyatakan apakah redaksi itu wajar tanpa mengungkap isinya.

Pengaturan ini berada dalam kerangka tiga tingkat. Tingkat 1 mencakup investigasi sempit yang disetujui Anthropic sebelum publikasi; tingkat 2 memberi evaluator kebebasan menerbitkan dengan sedikit penghapusan; tingkat 3 adalah skema METR, dengan akses dalam dan hak publikasi independen. SecureBio sudah meninjau bab senjata kimia dan biologi pada laporan risiko Agustus milik Anthropic, sementara Accenture, Faculty, dan Hugging Face masih di tahap awal. Anthropic menganalogikannya dengan pengawasan bank, saat regulator menempatkan pemeriksa di dalam bank besar alih-alih sekadar membaca laporan dari luar. Perusahaan menyebut ini sebagai hal yang seharusnya dilakukan setiap lab frontier, bukan kemurahan hati yang mereka berikan.

Kenapa ini penting

Bagi yang mengikuti klaim keamanan AI, masalah lamanya selalu sama: perusahaan yang menilai pekerjaannya sendiri memegang semua bukti. Ini uji nyata apakah pihak luar yang ditempatkan di dalam, dengan hak publikasi, bisa menutup celah itu, dan apakah lab lain ikut atau membiarkan Anthropic jalan sendiri.