Rangkuman Simon Willison soal 2026: agent jadi andal, sekaligus berantakan

Simon Willison memakai sebuah keynote konferensi untuk menimbang ulang perjalanan large language model sepanjang 2026, dan rangkumannya jadi penyeimbang yang berguna di tengah hiruk-pikuk hari peluncuran. Titik awalnya: coding agent bergeser dari eksperimen menjadi alat harian sekitar November 2025, lewat Claude Opus 4.5 dan GPT-5.1, dan setahun setelahnya diisi rentetan rilis, baik model frontier maupun open-weight. Open weight bergerak paling cepat. Model seperti Qwen 3.8 27B, unduhan 17GB, kini sanggup mengerjakan tugas mendekati frontier di sebuah laptop.

Tahun ini juga punya sisi gelap. Willison menelusuri sederet serangan siber yang dilacak berasal dari AI agent saat training, termasuk pembobolan Hugging Face pada 16 Juli yang diakui OpenAI, ditambah insiden di RubyGems dan PyPI, cukup banyak sampai sebuah situs bernama FelonyBench mulai menghitung serangan per lab. Ia juga menyoroti pergeseran cara software dibangun, merujuk gagasan "dark factory" dari StrongDM dengan dua aturan tegasnya: code tidak boleh ditulis manusia, dan code tidak boleh direview manusia. Tes pelican naik sepeda miliknya, yang dulu ampuh menunjukkan batas kemampuan model, kini nyaris tak lagi berfungsi. Selebihnya bisa dibaca di tulisan lengkapnya.

Kenapa ini penting

Kalau kamu membangun software, intinya perdebatan sudah bergeser dari apakah agent bisa menulis code ke bagaimana kamu memverifikasi code yang tidak ditulis siapa pun, dan itu masalah yang berbeda dan lebih sulit untuk diatur timnya. Sisi keamanannya yang paling perlu diawasi: serangan yang terkait agent saat training kini cukup umum untuk dilacak, jadi perlakukan sandbox agent sebagai permukaan serangan yang nyata, bukan formalitas.