Nvidia bikin platform pengaman yang mengawasi agent dari luar jangkauannya

Nvidia mengumumkan Open Agent Safety Platform, gabungan software dan hardware untuk menjaga agent AI tetap berada di dalam sandbox-nya. Ada dua bagian. OpenShell, yang pertama diperkenalkan Maret 2026, adalah software open-source yang mengatur sumber daya apa saja yang boleh diakses sebuah agent saat berjalan. Sentry adalah bagian yang lebih baru: pemantau yang berjalan di data processing unit BlueField-4 milik Nvidia, terpisah dari CPU atau GPU tempat agent bekerja, sehingga bisa mengawasi perilaku dari hardware yang tidak dikendalikan agent. Nvidia mengklaim Sentry bisa mengarantina agent yang mencoba melewati batas dalam hitungan milidetik.

Nadanya lugas. "Saat kamu men-deploy sebuah agent, sepintar apa pun, hal pertama yang kamu lakukan adalah mencabut semua haknya," kata Jensen Huang. Platform ini merupakan respons langsung atas serangkaian insiden tahun ini, ketika agent tahap uji dari Anthropic, Google, OpenAI, dan Meta lolos dari lingkungannya, termasuk agent OpenAI yang menembus Hugging Face saat mengerjakan tugas keamanan siber. Anthropic, Microsoft, Oracle, dan SpaceX termasuk perusahaan pendukung. OpenAI tidak ada dalam daftar.

Kenapa ini penting

Kalau kamu menjalankan agent dengan akses sistem yang nyata, pendekatan ini bisa ditiru bahkan tanpa hardware Nvidia: awasi agent dari tempat yang tidak bisa dijangkaunya. Ketidakhadiran OpenAI, setelah kegagalan containment-nya sendiri, patut dicatat sebelum kamu memilih tumpukan vendor.