Simon Willison memetakan kemampuan asli ChatGPT Work

ChatGPT Work dari OpenAI sudah rilis sejak Juli, tetapi dokumentasinya menjelaskan apa yang bisa dilakukan alih-alih bagaimana caranya, jadi Simon Willison harus bekerja keras untuk memahami kemampuan sesungguhnya. Yang ia temukan jauh lebih bertenaga ketimbang Chat biasa. Versi cloud-nya menjalankan lingkungan eksekusi kode yang kini bisa berbicara ke internet terbuka, sehingga bisa memasang package dan memanggil API secara langsung. Ia meluncurkan browser Chrome headless untuk mengisi formulir dan memanipulasi halaman dengan JavaScript. Ia menyimpan filesystem persisten yang dibagi antar chat, mengatur sub-agent yang bekerja paralel, men-deploy situs web utuh di Cloudflare Workers dengan penyimpanan D1 dan R2, serta menjalankan tugas terjadwal. Fitur ini hanya untuk pelanggan berbayar, bukan tier gratis atau termurah.

Karena OpenAI tidak menerbitkan system prompt maupun deskripsi tool-nya, Willison melakukan hal praktis: ia meminta Work sendiri membangun situs referensi yang mendaftar seluruh 223 tool terdaftar dan 44 skill, sebuah spesifikasi tidak resmi yang justru tidak ada di dokumentasi OpenAI. Peringatan utamanya soal keamanan. Work menggabungkan akses ke data pribadi, paparan terhadap konten tak tepercaya dari web, dan kemampuan berkomunikasi ke luar. Itu persis lethal trifecta miliknya, tiga bahan yang membuat prompt injection berbahaya, dan di sini ketiganya menyala sekaligus.

Kenapa ini penting

Kalau kamu sedang menimbang untuk mengalihkan pekerjaan agent ke ChatGPT Work, sandbox kode yang terhubung internet dan browser headless-nya memang berguna, tetapi keduanya juga berarti sebuah halaman web jahat bisa mengarahkan agent untuk melawan datamu sendiri. Uji dulu pada tugas berisiko rendah sebelum kamu memberinya hal sensitif.