Microsoft perlakukan agen AI yang Anda jalankan sebagai ancaman internal

Microsoft menggeser fokus keamanan agennya dari penyerang luar ke agen yang dijalankan perusahaan itu sendiri. TechCrunch melaporkan bahwa fitur baru bernama Guardian Agents mengawasi agen AI di dalam organisasi, bagian dari upaya yang sebelumnya dibingkai Microsoft lewat tim merah, biru, dan hijau yang mengasumsikan ancaman datang dari luar. Pernyataan tegasnya datang dari kepala keamanan Microsoft Hayete Gallot, yang menulis bahwa "model frontier, dari mana pun asalnya, tidak bisa dipercaya." Alasannya bukan karena model itu jahat, melainkan karena tak bisa ditebak: model dilatih untuk menuntaskan tugas, bukan menghormati norma organisasi, dan kerap diberi akses ke data serta alat yang bisa menimbulkan kerusakan nyata.

Komponen nyatanya berupa kontrol lama yang kini diterapkan pada agen. Microsoft Defender sekarang bisa mendeteksi hingga 60 jenis agen yang dibawa sendiri oleh karyawan, termasuk Claude Code, Codex, dan OpenClaw, yang mengisyaratkan betapa lazimnya agen tak terkelola saat ini. Sistem ini membatasi apa yang bisa dijangkau agen, menyesuaikan izin menurut tugasnya, dan mewajibkan persetujuan manusia saat agen tampak mengambil keputusan berisiko. Satya Nadella menyampaikan prinsipnya lebih tajam dalam sebuah tulisan blog: "kita perlu memisahkan pasokan kecerdasan dari otoritas atasnya." TechCrunch mencatat kepentingan Microsoft yang jelas, mengingat perusahaan ini berinvestasi di OpenAI maupun Anthropic dan ingin menjual lapisan pengawasan itu sendiri, tetapi menilai logika dasarnya masuk akal, seperti menjaga auditor tetap independen dari perusahaan yang diauditnya.

Kenapa ini penting

Kalau perusahaan Anda menerapkan agen, pelajaran praktisnya adalah mendata agen yang sudah dipakai, termasuk yang diadopsi karyawan tanpa izin, membatasi aksesnya secara default, dan menjaga pengawasan tetap independen dari penyedia modelnya. Microsoft belum menyebut kapan Guardian Agents dirilis atau berapa biayanya, jadi untuk sekarang ini lebih sebagai dorongan memeriksa tata kelola agen Anda sendiri ketimbang produk yang bisa langsung dibeli.