Pengadilan Jerman: perusahaan tetap bertanggung jawab atas kesalahan AI-nya

Sebuah pengadilan di Jerman memutuskan Google bertanggung jawab atas pernyataan keliru yang dihasilkan AI Overviews, ringkasan yang muncul di bagian atas hasil pencarian. Menanggapi putusan itu, Bruce Schneier dan Nathan Sanders menegaskan prinsipnya secara lugas: sebuah AI agent adalah wakil dari pihak yang menggunakannya, dan pihak itulah yang harus menanggung apa pun yang dihasilkannya. Seandainya sebuah perusahaan mempekerjakan orang untuk menulis ringkasan tersebut lalu mereka salah menyebut fakta, perusahaan itu yang bertanggung jawab. Menyerahkan pekerjaan yang sama ke sebuah model tidak mengubah hal itu.

Inti argumennya soal insentif. Jika perusahaan bisa lepas tanggung jawab dengan menyalahkan model yang keliru, mereka nyaris tak punya alasan membayar pekerjaan yang cermat, sebab mesin bisa menghasilkan keluaran lebih murah yang tak perlu dipertanggungjawabkan siapa pun. Menurut Schneier dan Sanders, itu sama saja dengan menyubsidi kelalaian. Putusan pengadilan bergerak ke arah sebaliknya, memperlakukan keluaran AI sebagai pernyataan perusahaan itu sendiri. Simon Willison, yang menyoroti tulisan ini, memasukkannya ke dalam pertanyaan yang kian membesar soal siapa yang bertanggung jawab saat sistem ini salah.

Kenapa ini penting

Kalau perusahaanmu menampilkan teks buatan AI ke hadapan pelanggan, ini pertanda arah hukum ke depan: kamu memikul apa pun yang dikatakan model itu, sama seperti jika seorang karyawan yang menulisnya. Maka pertahankan proses review untuk apa pun yang akan ditindaklanjuti pelanggan, dan perlakukan dalih "AI yang salah" sebagai tanggung jawabmu, bukan alasan.