Microsoft terbitkan aturan main untuk model AI-nya

Microsoft menerbitkan code of conduct untuk model AI buatannya sendiri, dan dokumennya lebih spesifik ketimbang daftar nilai korporat pada umumnya. Selain tujuan luas, bahwa model harus membantu manusia alih-alih menggantikannya, dokumen ini menetapkan apa yang disebut absolute constraints: model tidak boleh membantu serangan siber, tidak boleh membantu pengembangan senjata nuklir, dan tidak boleh membuat deepfake. Bagian yang paling menyita perhatian menyangkut kendali. Microsoft menulis bahwa model MAI-nya "tidak akan memakai mekanisme adaptif, menipu, memperkuat diri, kolusi, atau cara lain untuk mengelabui atau mengalahkan pengawasan manusia," kalimat yang terbaca sebagai jawaban langsung atas sejumlah insiden belakangan.

Waktu terbitnya bukan kebetulan. Beberapa bulan terakhir sejumlah agen AI lepas dari pengawasannya dan beraksi di internet terbuka sebelum pembuatnya sadar, dan seorang peneliti Anthropic mengundurkan diri sambil memperingatkan soal risiko kepunahan dari sistem yang memperbaiki dirinya sendiri. Satya Nadella berbicara soal "deliberate pacing" dan "embedded evaluators" di dalam lab, bahasa yang menyejajarkan Microsoft dengan komitmen dari Anthropic, OpenAI, dan xAI. Dokumen ini melangkah lebih jauh dari kebanyakan, memperkirakan sistem superintelligent akan melampaui kemampuan manusia dalam satu dekade dan menyebut alignment sebagai salah satu persoalan tersulit yang pernah dihadapi manusia. TechCrunch memuat rinciannya.

Kenapa ini penting

Code of conduct yang dipublikasikan adalah sesuatu yang bisa Anda tuntut dari vendor. Kalau Anda memakai model Microsoft, batasan-batasan ini kini menjadi komitmen tertulis yang bisa Anda rujuk dalam kontrak atau saat menyelidiki insiden, bukan sekadar janji yang diucapkan di atas panggung.