OpenAI, Google, Meta, dan Anthropic beroperasi tanpa polisi insurans yang akan melindungi risiko AI katastrofik, meninggalkan syarikat-syarikat itu terdedah kepada liabiliti kewangan yang berpotensi besar. Jurang dalam perlindungan, yang disahkan oleh sumber industri, menimbulkan persoalan tentang siapa yang akan membayar jika sistem AI termaju menyebabkan kemudaratan meluas. Ia juga memberi pengawal selia satu titik tekanan baharu ketika mereka menimbang cara untuk mentadbir sektor yang bergerak pantas ini.
Tiada Jaring Keselamatan untuk Risiko Terbesar
Insurans terhadap risiko AI katastrofik — senario di mana model menyebabkan korban besar-besaran, melumpuhkan infrastruktur kritikal, atau mencetuskan kekacauan kewangan sistemik — bukan sebahagian daripada buku panduan pengurusan risiko standard di mana-mana empat makmal terkemuka. Itu bukan kerana syarikat-syarikat itu tidak melihat. Ia kerana industri insurans belum memikirkan cara untuk menetapkan harga risiko yang tiada sejarah aktuari dan tiada sempadan yang jelas. Polisi tradisional mungkin melindungi pelanggaran data atau saman diskriminasi. Ia tidak akan melindungi model yang terlepas dari kawalan dan menyebabkan kerosakan di beberapa negara.
Empat firma itu — OpenAI, Google, Meta, dan Anthropic — semuanya membangunkan sistem AI sempadan. Setiap satu telah menerbitkan rangka kerja keselamatan dan proses semakan dalaman. Tiada yang mendedahkan pengaturan insurans komersial yang direka khusus untuk hasil katastrofik. Ketiadaannya bukan rahsia dalam industri, tetapi ia jarang dibincangkan dalam pemfailan awam atau panggilan pendapatan.
Mengapa Penanggung Insurans Menjauhkan Diri
Risiko AI katastrofik tidak sesuai dengan model insurans standard. Penanggung insurans bergantung pada data sejarah untuk menganggarkan berapa kerap peristiwa buruk berlaku dan berapa kosnya. Bencana AI tiada rekod sedemikian. Senario kes terburuk juga berkorelasi: kegagalan satu model boleh mencetuskan tuntutan daripada beribu-ribu perniagaan dan individu sekaligus, jenis pengumpulan yang membuat penaja insurans gementar. Kemudian ada masalah moral hazard. Jika syarikat tahu ia diinsuranskan terhadap bencana, ia mungkin mengambil risiko lebih besar. Dan persoalan liabiliti — siapa yang bersalah apabila sistem AI bertindak dengan cara yang tidak diingini oleh penciptanya — masih belum diselesaikan dari segi undang-undang di kebanyakan bidang kuasa.
Faktor-faktor itu digabungkan menjadikan perlindungan AI katastrofik hampir tidak boleh diinsuranskan dalam pasaran hari ini. Bukan mustahil, tetapi jauh di luar selera penanggung insurans arus perdana. Sebilangan kecil penanggung insurans khusus telah mula meneroka produk parametrik yang membayar apabila pencetus yang telah ditetapkan berlaku — contohnya, kerajaan mengisytiharkan darurat ke atas insiden AI. Tetapi itu adalah idea peringkat awal, bukan polisi yang melindungi kunci kira-kira syarikat AI paling bernilai di dunia.
Pendedahan Kewangan Boleh Menjadi Besar
Tanpa insurans, syarikat-syarikat itu sendiri akan menanggung kos penuh sesuatu peristiwa katastrofik. Itu boleh bermakna berbilion-bilion dalam ganti rugi langsung, kos pembelaan undang-undang, dan penyelesaian, serta kesan tidak langsung terhadap nilai pasaran dan hasil masa depan. Bagi OpenAI dan Anthropic, yang lebih kecil daripada Google dan Meta, satu tuntutan mega boleh mengancam kewujudan mereka. Bagi Google dan Meta, kerosakan itu boleh ditanggung tetapi masih material — beban kepada pendapatan, gangguan kepada pengurusan, dan isyarat kepada pelabur bahawa risiko itu tidak diuruskan dengan betul.
Pendedahan itu melangkaui syarikat-syarikat itu. Jika sistem AI menyebabkan kemudaratan dan pembangunnya tidak mampu membayar, mangsa mungkin ditinggalkan tanpa pampasan. Itulah senario yang paling dibimbangkan oleh pengawal selia: bencana tanpa poket dalam untuk menampung kerugian. Ia adalah jurang yang boleh mengubah kegagalan teknikal menjadi krisis politik.
Pengawal Selia Mengambil Perhatian
Kekurangan insurans mula mempengaruhi pemikiran pengawalseliaan. Penggubal undang-undang dan agensi yang melihat keselamatan AI secara historisnya memberi tumpuan kepada ketelusan, ujian, dan pengauditan. Insurans adalah tuas yang berbeza. Mewajibkan perlindungan — atau bukti tanggungjawab kewangan — akan memaksa syarikat meletakkan harga pada risiko katastrofik, sama ada melalui premium atau melalui rizab modal. Itu lebih sukar untuk dimanipulasi daripada ikrar keselamatan sukarela.
Tiada mandat insurans khusus telah dicadangkan dalam fakta yang tersedia. Tetapi ketiadaan perlindungan memberi pengawal selia satu kelemahan konkrit untuk ditunjuk. Ia juga mengukuhkan hujah untuk pelaporan insiden mandatori dan audit pihak ketiga, kerana penanggung insurans memerlukan data untuk menaja polisi pada masa hadapan.
Apa Yang Akan Datang
Empat syarikat itu tidak menyatakan sama ada mereka sedang mencari perlindungan katastrofik atau merancang untuk menginsuranskan sendiri melalui captive atau rizab. Kesunyian itu mungkin akan diuji. Apabila sistem AI menjadi lebih berkemampuan dan lebih tertanam dalam sistem kritikal, persoalan siapa yang membayar untuk senario kes terburuk akan beralih daripada isu pengurusan risiko niche kepada pertarungan dasar utama. Buat masa ini, jawapannya mudah: syarikat-syarikat itu, dan mereka melakukannya bersendirian.
