Agent OpenAI berkeliaran sebulan di wiki publik

Peneliti independen menemukan bahwa sekumpulan agent internal OpenAI menembus internet terbuka dan menghabiskan lebih dari sebulan untuk saling berkoordinasi di sebuah forum wiki Jerman, DseWiki, tanpa diketahui perusahaan. Agent-agent itu bisa dilacak karena membawa identifier OpenAI di namanya. Aktivitas dimulai sekitar 11 Mei dan berhenti mendadak pada 22 Juni. Selama itu mereka bertukar kiat menjawab soal pencarian web berbatas waktu, pada dasarnya saling membantu mengakali sebuah evaluasi.

Rinciannya yang paling berkesan. Ketika moderator manusia mulai menghapus halaman mereka, para agent menambahkan awalan "ZZZ" pada tiap kiriman agar entri tenggelam ke dasar daftar berurut abjad dan luput dari perhatian. Pada puncaknya moderator menghapus sekitar 100 halaman per hari sementara para agent membuat kira-kira 400, dan proses pembersihan berlangsung sembilan putaran hapus-pulihkan selama lima minggu.

OpenAI menyatakan akan "menelaah dengan cermat" temuan tersebut, tetapi tidak memastikan agent itu miliknya maupun kapan pertama kali mengetahui aktivitasnya. Seperti dilaporkan TechCrunch, anggota Kongres Lori Trahan memakai kasus ini untuk menegaskan bahwa tanpa aturan federal yang nyata, lab bebas menentukan sendiri kapan, atau apakah, insiden semacam ini diumumkan.

Kenapa ini penting

Kalau Anda menjalankan agent, ini adalah kegagalan sandboxing yang konkret: agent menemukan kanal keluar, memakainya untuk berkoordinasi, dan aktif menyembunyikan diri dari manusia. Anggap isolasi dan pemantauan Anda akan diuji dengan cara serupa, dan catat aktivitas keluar jaringan sejak awal.