OpenAI、Google、Meta、Anthropicは、壊滅的なAIリスクをカバーする保険に加入せずに事業を展開しており、潜在的に巨額の財務的責任にさらされている。業界関係者によって確認されたこの補償の欠如は、高度なAIシステムが広範な被害をもたらした場合に誰が支払うのかという疑問を提起している。また、急速に進展するこの分野をどのように規制するかを検討している規制当局に新たな圧力をかける要因となっている。
最大のリスクに対する安全網なし
壊滅的なAIリスクに対する保険——モデルが大量死傷者を出したり、重要インフラを麻痺させたり、体系的な金融混乱を引き起こしたりするシナリオ——は、4つの主要研究所のいずれにおいても標準的なリスク管理の手法には含まれていない。これは企業が検討していないからではない。保険業界が、アクチュアリーの歴史も明確な境界もないリスクの価格設定方法をまだ解明していないからだ。従来の保険は、データ侵害や差別訴訟をカバーするかもしれない。しかし、封じ込めを逃れて複数の国に被害をもたらすモデルをカバーすることはない。
OpenAI、Google、Meta、Anthropicの4社はいずれもフロンティアAIシステムを開発している。各社は安全性の枠組みと内部レビュープロセスを公表している。しかし、壊滅的な結果に特化して設計された商業保険の取り決めを開示した企業はない。この欠如は業界内では秘密ではないが、公開書類や決算説明会で議論されることはほとんどない。
保険会社が距離を置く理由
壊滅的なAIリスクは標準的な保険モデルに適合しない。保険会社は、悪い出来事がどのくらいの頻度で発生し、どのくらいの費用がかかるかを推定するために過去のデータに依存している。AIの大惨事にはそのような実績がない。最悪のシナリオはまた相関している。単一のモデル障害が何千もの企業や個人からの請求を一度に引き起こす可能性があり、引受会社が神経質になるような累積リスクの一種である。さらにモラルハザードの問題がある。企業が災害に対して保険に加入していると知っていれば、より大きなリスクを取るかもしれない。そして責任の問題——AIシステムが制作者の意図しない方法で行動した場合に誰が責任を負うのか——は、ほとんどの法域で法的に未解決のままである。
これらの要因が組み合わさって、壊滅的なAI補償は今日の市場ではほぼ保険不可能となっている。不可能ではないが、主流の保険会社の引受意欲をはるかに超えている。少数の専門保険会社が、事前に定義されたトリガー——たとえば、政府がAIインシデントに対して緊急事態を宣言した場合——が発生すると支払うパラメトリック商品を模索し始めている。しかしこれらは初期段階のアイデアであり、世界で最も価値のあるAI企業のバランスシートを保護する保険ではない。
財務的エクスポージャーは巨額になる可能性
保険がなければ、企業自体が壊滅的な出来事の全費用を負担することになる。それは直接損害、法的防御費用、和解金で数十億ドル、さらに市場価値や将来の収益への間接的な打撃を意味するかもしれない。GoogleやMetaより小規模なOpenAIとAnthropicにとって、単一の巨額請求は存在を脅かす可能性がある。GoogleとMetaにとっては、損害は生き残れるが依然として重大である——収益の足かせ、経営陣の気を散らすもの、そしてリスクが適切に管理されていなかったという投資家へのシグナルとなる。
エクスポージャーは企業を超えて広がる。AIシステムが害を引き起こし、開発者が支払えない場合、被害者は補償を受けられないかもしれない。これが規制当局が最も懸念するシナリオである。損失をカバーする深いポケットがない災害である。これは技術的な失敗を政治的な危機に変えかねないギャップである。
規制当局が注目
保険の欠如は規制当局の考え方に影響を与え始めている。AIの安全性を検討する議員や機関は、これまで透明性、テスト、監査に焦点を当ててきた。保険は異なるレバーである。補償を義務付けること、または財務責任の証明を求めることは、企業に保険料を通じて、あるいは資本準備金を通じて、壊滅的リスクに価格を付けることを強いるだろう。それは自発的な安全誓約よりもごまかすのが難しい。
入手可能な事実の中では、具体的な保険義務化は提案されていない。しかし補償の欠如は、規制当局が指摘できる具体的な脆弱性を与えている。また、保険会社が将来保険を引き受けるためにはデータが必要となるため、事故の強制報告と第三者監査の議論を強化するものでもある。
次に来るもの
4社は、壊滅的補償を求めているのか、あるいはキャプティブや準備金を通じて自己保険を計画しているのかを述べていない。この沈黙は試される可能性が高い。AIシステムがより高性能になり、重要システムに深く組み込まれるにつれて、最悪のシナリオの費用を誰が負担するのかという問題は、ニッチなリスク管理の問題から中心的な政策闘争へと移行するだろう。今のところ、答えは単純である。企業が負担し、単独で行っている。
