DeepMind menyiapkan $10 juta untuk riset keselamatan AI multi-agen

Google DeepMind mengumumkan call funding senilai $10 juta untuk riset keselamatan sistem AI multi-agen, dijalankan bersama Schmidt Sciences, Cooperative AI Foundation, ARIA, dan Google.org. Pijakan argumennya: seiring jutaan agent dari berbagai organisasi mulai saling berinteraksi, bernegosiasi, dan bertransaksi, pertanyaan keamanan bergeser dari "apakah satu model ini selaras" ke "bagaimana perilaku populasi agent secara keseluruhan."

Call ini menyebut empat prioritas. Pertama, sandbox dan testbed, termasuk lingkungan realistis seperti simulasi marketplace. Kedua, agent network science: bagaimana kemampuan kolektif muncul di populasi agent, bagaimana jaringan jadi rapuh, dan bagaimana mendeteksi properti tingkat populasi yang berbahaya sebelum sempat jadi masalah. Ketiga, infrastruktur, yakni menguji protokol identitas, reputasi, dan komitmen yang mengamankan interaksi agent lintas platform. Keempat, pengawasan, yakni memantau populasi agent yang sudah ter-deploy dan meredam kerugian kolektif dalam skala besar.

DeepMind memposisikan ini sebagai masalah yang tidak bisa diselesaikan satu lab sendiri, framing yang relatif terus terang untuk pengumuman Google. Pendaftaran ditutup 8 Agustus 2026, dengan pengumuman penerima pada musim gugur 2026. Hasil yang diharapkan bukan cuma paper, tapi juga tooling yang bisa dipakai lab lain.

Kenapa ini penting

Kalau kamu membangun produk yang melibatkan agent berbicara dengan agent dari organisasi lain, ini taruhan riset yang patut diikuti. Daftar prioritasnya sekaligus jadi peta cukup eksplisit tentang di titik mana DeepMind melihat masalahnya belum terpecahkan, dan itu berguna saat memutuskan mana yang dibangun sendiri dan mana yang sebaiknya ditunggu.