Kapoor dan Narayanan tolak aturan AI luar biasa, dorong resiliensi gaya cybersecurity

Sayash Kapoor dan Arvind Narayanan menerbitkan argumen panjang pada 21 Mei yang menolak apa yang mereka sebut "intervensi luar biasa pemerintah" di ranah AI: kebijakan yang melompati proses legislatif normal, membatasi pihak yang belum menyebabkan kerugian, dan berpijak pada kehati-hatian alih-alih bukti. Di newsletter AI as Normal Technology, keduanya mengkontraskan pendekatan itu dengan yang mereka pilih: membangun resiliensi masyarakat terhadap risiko AI lewat policymaking biasa, mirip cara ancaman cybersecurity akhirnya dikelola.

Inti argumennya, nonproliferasi nuklir yang sering dijadikan analogi untuk AI export control dan compute cap bertumpu pada hambatan fisik yang tidak dimiliki AI. Pesaing bisa menyamai kapabilitas frontier model dalam hitungan bulan setelah model itu rilis, sehingga rezim kontrol cenderung mengalami "erosi konstan", bukan keseimbangan. Perbandingan dengan cybersecurity adalah sisi konstruktifnya: worm pernah merugikan ekonomi miliaran dolar di era 2000-an, tapi responsnya bukan mematikan sebagian internet, melainkan bug bounty, vulnerability disclosure, dan automated testing. Sikap yang sama, kalau diterapkan ke AI, akan menutup permukaan risiko yang nyata tanpa biaya politik untuk membatasi akses.

Tulisan ini hadir di momen ketika item bipartisan seperti aturan transparency reporting dan perlindungan riset keamanan masih belum disahkan, celah yang menurut Kapoor dan Narayanan harus diisi lewat pekerjaan biasa, bukan dilompati. Baca argumen lengkapnya.

Kenapa ini penting

Buat kamu yang bekerja di kebijakan AI, rilis model, atau red-teaming, framing resiliensi mengubah definisi keberhasilan: bukan menahan rilis, melainkan mendanai perangkat defensif (tooling untuk eval, pelaporan vulnerability, aturan transparansi) sehingga hukum biasa bisa mengejar. Bagi builder, framing ini ikut memprediksi restriction mana yang akan bertahan dan mana yang akan terkikis.