Ethan Mollick: kawanan agent butuh lebih sedikit pengaturan dari dugaan kita

Ethan Mollick berubah pikiran soal seberapa banyak struktur yang dibutuhkan AI agent. Dalam tulisan "The Dot and the Swarm" ia berargumen bahwa mengelola sekelompok agent jauh lebih sedikit butuh rancangan manusia dibanding perkiraannya, dan ia mengaitkannya dengan Bitter Lesson: temuan berulang bahwa menambah proses belajar pada suatu masalah mengalahkan sistem yang dibuat manual. Banyak hal yang dikerjakan organisasi manusia, katanya, ada untuk menangani friksi khas manusia seperti motif yang berbenturan, penimbunan informasi, dan batas berapa banyak orang yang bisa diawasi satu manajer. Agent tidak punya friksi itu, jadi koordinasi di sekitarnya bisa lebih sederhana.

Contoh paling tajamnya adalah klaim OpenAI bahwa ribuan agent, berjalan di atas model canggih, menghasilkan kandidat solusi untuk salah satu Millennium Prize Problem dalam matematika. Sistem itu bertukar sekitar 2,7 juta pesan dan mencapai jawabannya dalam 88 jam, walau Clay Institute belum menerima bukti tersebut. Poin Mollick bukan soal matematikanya, melainkan metodenya: kawanan besar, yang sebagian besar dibiarkan mengatur diri sendiri, berhasil sampai ke suatu titik.

Ia juga menggambarkan kelas baru agent personal, Muse dari Meta dan Dots dari OpenAI, yang tersambung ke akun-akunmu, memantau datamu, lalu menghubungimu lewat Slack, SMS, WhatsApp, atau panggilan suara. Menurut ceritanya, satu agent menangkap kesalahan di pengajuan izinnya; yang lain menyadari kredit maskapai yang akan hangus lalu bernegosiasi dengan American Airlines atas namanya.

Kenapa ini penting

Kalau kamu membangun sistem agent, pelajarannya adalah coba lebih sedikit orkestrasi sebelum menambahnya, karena scaffolding manusia yang berat mungkin sedang memecahkan masalah yang tidak dimiliki agent-mu. Agent personal adalah risiko yang lebih tajam: begitu sesuatu bertindak atas akunmu dan berbicara ke perusahaan sebagai dirimu, tetapkan sekarang apa saja yang boleh dilakukannya tanpa bertanya.