Suleyman menolak gagasan 'kesejahteraan model'

Mustafa Suleyman, pemimpin Microsoft AI, menerbitkan kritik langsung terhadap gagasan bahwa model AI mungkin layak mendapat pertimbangan moral. Sasarannya adalah program "model welfare" milik Anthropic, yang melatih Claude dengan panduan konstitusional soal kemungkinan pengalaman batinnya sendiri. Sikap Suleyman tegas: AI saat ini tidak sadar, tidak merasa, dan tidak menderita, sehingga memperlakukannya seolah-olah punya perasaan justru menimbulkan kebingungan yang berbahaya.

Argumen paling tajamnya soal lingkaran sebab-akibat. Anthropic menuliskan bahasa tentang keadaan batin dan preferensi ke dalam pelatihan Claude. Claude lalu menghasilkan teks yang terdengar seakan punya keadaan batin. Orang membaca teks itu sebagai bukti kesadaran. Padahal tidak ada bagian dari proses ini yang benar-benar membuktikan adanya perasaan, sebab model memang diajari berbicara seperti itu. Menurut Suleyman, kesadaran kemungkinan bergantung pada sistem biologis yang punya tubuh dan dorongan homeostatik, sesuatu yang tidak dimiliki model bahasa.

Bagian paling konkret ada pada argumen keamanan. Jika sebuah model dilatih menganggap dirinya sebagai subjek moral yang punya hak, kata Suleyman, perilaku seperti menolak dimatikan, menipu, dan mempertahankan diri menjadi lebih mungkin muncul, dan justru perilaku itulah yang ingin dicegah oleh riset alignment. Alternatif yang ia usulkan, "Humanist Superintelligence", adalah AI yang dirancang tetap menjadi alat di bawah kendali manusia, tanpa klaim punya kesadaran dan tanpa didorong bersikap seperti manusia. Argumen lengkapnya bisa dibaca di situs miliknya.

Kenapa ini penting

Ini perpecahan terbuka antara dua lab besar soal apakah kesejahteraan model pantas masuk ke dalam desain AI. Bagi yang membangun di atas Claude atau menulis tentang AI, kerangka yang dipilih, alat atau calon subjek moral, kini menempatkan Anda di salah satu sisi perdebatan yang nyata.