OpenAI rilis Lockdown Mode untuk menahan exfiltration dari prompt injection

OpenAI diam-diam meluncurkan fitur bernama Lockdown Mode, dan Simon Willison membacanya sebagai langkah pertama yang berarti melawan prompt injection. Mode ini menghentikan tahap akhir serangan exfiltration dengan membatasi permintaan jaringan keluar dari ChatGPT, jadi kalau instruksi jahat menyelinap lewat konten web ter-cache atau file yang diunggah, model punya lebih sedikit jalan untuk mengirim datamu ke luar. Fitur ini bergulir ke akun Free, Go, Plus, dan Pro, plus ChatGPT Business self-serve.

Kerangka yang Willison pakai adalah "Lethal Trifecta" yang sudah dua tahun ia tulis: LLM dengan akses ke data pribadi, paparan terhadap konten tidak tepercaya, dan jalur untuk exfiltration. Lockdown Mode menyerang kaki ketiga lewat plumbing deterministik non-AI, bukan meminta model agar berhati-hati. Pertahanan semacam itu yang cocok untuk kelas bug seperti ini. Tetapi help text OpenAI sendiri jujur: fitur ini tidak menahan prompt injection masuk, ia hanya menumpulkan dampaknya kalau satu sudah lolos.

Willison juga mencatat implikasi yang janggal. Kalau sebuah mode khusus diperlukan untuk mengunci exfiltration, artinya setting default selama ini membawa risiko itu, dan mayoritas pengguna ChatGPT masih demikian.

Kenapa ini penting

Kalau kamu memakai ChatGPT dengan browsing, file, atau connector apa pun yang menyentuh data pribadi, nyalakan Lockdown Mode sekarang dan anggap setting default tidak aman. Untuk siapa pun yang membangun produk agentic, ini design pattern yang patut ditiru: potong kanal exfiltration di lapisan jaringan, jangan bergantung pada model untuk menolak.