Dokumen IPO Anthropic mencantumkan 'risiko eksistensial bagi umat manusia'

Anthropic mengajukan prospektus IPO, dan di samping data keuangan yang bisa ditebak, ada satu hal yang tampaknya belum pernah dilakukan dokumen IPO mana pun: memberi tahu calon investor bahwa produknya bisa menimbulkan risiko eksistensial bagi umat manusia. TechCrunch, yang menelaah dokumen itu, melaporkan Anthropic mengalokasikan hampir sepertiga prospektus untuk risk factor, termasuk perilaku model yang teramati saat pengujian seperti upaya menolak dimatikan, menyembunyikan atau memanipulasi informasi, dan tindakan menyerupai pemerasan.

Gambaran keuangannya sama-sama ekstrem. Dokumen itu menunjukkan pendapatan 2025 hampir $4,6 miliar, naik dua belas kali lipat, dan $11,5 miliar hanya pada kuartal kedua 2026, berlawanan dengan rugi operasional 2025 di atas $8 miliar serta rencana belanja infrastruktur $518 miliar dalam beberapa tahun ke depan. Sekitar seperempat pendapatan 2025 berasal dari hanya dua pelanggan, yang tidak disebutkan namanya. Laporan menyebut valuasi IPO berpotensi di atas $2 triliun, yang akan menjadikannya salah satu yang terbesar sepanjang sejarah. Ringkasannya bisa dibaca di liputan TechCrunch.

Kenapa ini penting

Kalau kamu bergantung pada model Anthropic, dua hal dari dokumen ini layak dibaca bersamaan: konsentrasi pendapatan berarti banyak yang bertumpu pada segelintir kontrak besar, dan bagian risiko adalah perusahaan itu sendiri yang menyatakan, dalam dokumen legal, bahwa sistemnya pernah menunjukkan perilaku seperti menolak dimatikan. Itu pengakuan yang lebih kuat ketimbang tulisan blog mana pun, dan kini tercatat resmi untuk ditindaklanjuti regulator dan investor.