Anthropic sodorkan rancangan regulasi untuk era AI eksponensial

Anthropic merilis usulan kebijakan yang berargumen bahwa proses regulasi bergerak terlalu lambat untuk laju AI saat ini, lalu menjelaskan seperti apa aturan untuk model frontier seharusnya dirancang. Dokumennya terbagi dua bagian. Yang pertama, Advanced AI Framework, akan memberi pemerintah kewenangan memblokir atau menahan deployment frontier model yang dianggap berbahaya, dengan sanksi sipil yang dihitung dari pendapatan tahunan global pengembangnya. Kewajiban itu hanya berlaku di atas ambang tertentu: model yang dilatih dengan lebih dari 10^25 FLOPs, dari perusahaan dengan pendapatan AI minimal $500 juta atau belanja R&D AI minimal $1 miliar. Bagian kedua menyasar sisi ekonomi, dengan usulan soal bagaimana tenaga kerja dan keuangan publik harus menyesuaikan saat AI menyebar ke sektor riil.

Empat kategori risiko katastrofik yang ingin dicakup kerangka ini: senjata biologi, serangan ke infrastruktur cyber kritis, kehilangan kendali atas sistemnya sendiri, dan automated R&D yang membuat AI mempercepat pengembangannya tanpa pengawasan manusia. Kewajiban konkret bagi pengembang yang terikat mencakup publikasi ringkasan safety testing, melibatkan evaluator independen untuk meninjau temuannya, mengamankan model weights dan infrastruktur training sampai standar tinggi, serta membuka safety framework dan system card untuk pemeriksaan publik. Pola seperti ini tidak biasa untuk sebuah AI lab: Anthropic justru meminta diregulasi, dengan ambang yang cukup tinggi sehingga praktis hanya menyentuh dirinya sendiri dan segelintir pesaing, dan menyebut tesis race-to-the-top mereka sebagai alasannya.

Kenapa ini penting

Bagi tim yang membangun di atas API frontier, perusahaan inilah yang paling mungkin membentuk aturan main yang akhirnya harus dipatuhi kalian dan pelanggan kalian, jadi penting paham persis apa yang Anthropic minta. Angka 10^25 FLOPs dan ambang pendapatan adalah klaim paling konkret di sini, dan itu yang menentukan ke titik mana garis antara penyedia model "tercakup" dan "tidak" kemungkinan akan ditarik.