OpenAI melatih GPT-Red untuk menyerang modelnya sendiri dalam skala besar

OpenAI memperkenalkan GPT-Red, model red-teaming otomatis yang tugasnya mencari cara menjebol model lain sebelum model itu dirilis. Cara kerjanya menyerupai red-teamer manusia: kirim prompt, amati respons model target, lalu sesuaikan dan coba lagi, terus beriterasi menuju sebuah tujuan seperti menembus aturan keamanan atau menyelundupkan prompt injection. Bedanya ada pada skala. Menurut OpenAI, GPT-Red dilatih pada skala compute setara sebagian post-training run terbesar mereka, dan perusahaan menggambarkannya sebagai jumlah compute yang tidak biasa dihabiskan murni untuk keamanan alih-alih kapabilitas.

Inti yang ingin ditegaskan OpenAI adalah soal self-improvement. Alih-alih menunggu peneliti luar melaporkan kegagalan, mereka memakai model saat ini untuk menghasilkan serangan yang memperkuat generasi berikutnya, lalu memasukkan serangan itu langsung ke proses training. GPT-Red dipakai untuk melatih GPT-5.6 secara adversarial, dan OpenAI menyebut model itu jadi jauh lebih tahan terhadap prompt injection. Kamu bisa membaca penjelasan OpenAI di sini, meski detail evaluasi konkret yang dirilis sejauh ini masih terbatas, sehingga seberapa besar peningkatan ketahanannya untuk sekarang sebagian besar masih klaim perusahaan itu sendiri.

Ada ketegangan yang familier di baliknya. Model yang cukup andal untuk menyerang model lain sebenarnya adalah artefak dual-use, dan loop self-play yang sama yang menambal kelemahan yang diketahui hanya bisa mencakup permukaan serangan yang sudah dibayangkan si model penyerang. Red-teaming otomatis memperluas cakupan, tapi ia tidak mengubah ketahanan adversarial menjadi masalah yang sudah beres.

Kenapa ini penting

Kalau kamu men-deploy agent di atas model frontier, prompt injection juga jadi masalahmu, dan lab kini memperlakukan pembuatan serangan otomatis sebagai bagian dari pipeline training, bukan pikiran belakangan. Tunggu evaluasi independen atas ketahanan injection GPT-5.6 sebelum mempercayai klaimnya, dan bersiaplah pendekatan self-play red-teaming ini menyebar ke lab lain.