OpenAI, Google, Meta a Anthropic fungují bez pojistných smluv, které by kryly katastrofická rizika AI, což je vystavuje potenciálně obrovským finančním závazkům. Tato mezera v krytí, potvrzená průmyslovými zdroji, vyvolává otázky, kdo by zaplatil, kdyby pokročilý systém AI způsobil rozsáhlé škody. Poskytuje také regulátorům nový nátlakový bod, když zvažují, jak řídit rychle se vyvíjející sektor.
Žádná záchranná síť pro největší rizika
Pojištění proti katastrofickým rizikům AI – scénářům, kdy model způsobí masové oběti, ochromí kritickou infrastrukturu nebo spustí systémový finanční chaos – není součástí standardního risk managementu v žádné ze čtyř předních laboratoří. Není to proto, že by se společnosti nedívaly. Je to proto, že pojišťovací průmysl nepřišel na to, jak ocenit riziko, které nemá žádnou pojistně-matematickou historii a žádné jasné hranice. Tradiční pojistka může krýt únik dat nebo žalobu za diskriminaci. Nekryje model, který unikne kontrole a způsobí škody ve více zemích.
Čtyři firmy – OpenAI, Google, Meta a Anthropic – všechny vyvíjejí systémy AI na hranici možností. Každá zveřejnila bezpečnostní rámce a interní procesy kontroly. Žádná nezveřejnila komerční pojistnou dohodu speciálně navrženou pro katastrofické následky. Tato absence není v branži tajemstvím, ale je zřídka diskutována ve veřejných podáních nebo na konferenčních hovorech.
Proč se pojišťovny drží stranou
Katastrofické riziko AI nezapadá do standardního modelu pojištění. Pojišťovny se spoléhají na historická data, aby odhadly, jak často k nežádoucí události dochází a kolik stojí. Katastrofy AI takovou historii nemají. Nejhorší scénáře jsou také korelované: jediné selhání modelu by mohlo vyvolat nároky od tisíců podniků a jednotlivců najednou, což je druh akumulace, který znervózňuje pojistitele. Pak je tu problém morálního hazardu. Pokud společnost ví, že je pojištěna proti katastrofě, mohla by podstupovat větší rizika. A otázka odpovědnosti – kdo je na vině, když systém AI jedná způsoby, které jeho tvůrci nezamýšleli – zůstává právně nevyřešena ve většině jurisdikcí.
Tyto faktory společně činí katastrofické krytí AI téměř nepojistitelným na dnešním trhu. Ne nemožným, ale daleko za apetitem hlavních pojistitelů. Několik specializovaných pojišťoven začalo zkoumat parametrické produkty, které vyplácejí, když nastane předem definovaný spouštěč – například vláda vyhlásí stav nouze kvůli incidentu s AI. Ale to jsou rané nápady, nikoli pojistky chránící rozvahy nejhodnotnějších světových společností AI.
Finanční expozice by mohla být obrovská
Bez pojištění by společnosti samy absorbovaly plné náklady katastrofické události. To by mohlo znamenat miliardy na přímých škodách, nákladech na právní obhajobu a vyrovnáních, plus nepřímý dopad na tržní hodnotu a budoucí příjmy. Pro OpenAI a Anthropic, které jsou menší než Google a Meta, by jediný mega-nárok mohl ohrozit jejich existenci. Pro Google a Meta by škoda byla přežitelná, ale stále materiální – zátěž na zisky, rozptýlení pro management a signál investorům, že riziko nebylo řádně řízeno.
Expozice přesahuje společnosti. Pokud systém AI způsobí škodu a vývojář nemůže zaplatit, oběti mohou zůstat bez odškodnění. To je scénář, kterého se regulátoři obávají nejvíce: katastrofa bez hluboké kapsy na pokrytí ztrát. Je to mezera, která by mohla proměnit technické selhání v politickou krizi.
Regulátoři si všímají
Nedostatek pojištění začíná ovlivňovat regulační myšlení. Zákonodárci a agentury zabývající se bezpečností AI se historicky zaměřovaly na transparentnost, testování a audit. Pojištění je jiná páka. Vyžadovat krytí – nebo důkaz finanční odpovědnosti – by donutilo společnosti ocenit katastrofické riziko, buď prostřednictvím pojistného, nebo prostřednictvím kapitálových rezerv. To se dá těžko obejít než dobrovolný bezpečnostní závazek.
V dostupných faktech nebyl navržen žádný konkrétní pojistný mandát. Ale absence krytí dává regulátorům konkrétní zranitelnost, na kterou mohou poukázat. Také posiluje argumenty pro povinné hlášení incidentů a audity třetích stran, protože pojišťovny by v budoucnu potřebovaly data pro upisování pojistek.
Co přijde dál
Čtyři společnosti neuvedly, zda usilují o katastrofické krytí nebo plánují samopojištění prostřednictvím captive pojišťoven nebo rezerv. Toto ticho bude pravděpodobně testováno. Jak se systémy AI stávají schopnějšími a hlouběji zakotvenými v kritických systémech, otázka, kdo zaplatí za nejhorší scénář, se přesune z okrajového problému řízení rizik do ústředního politického boje. Prozatím je odpověď jednoduchá: společnosti, a dělají to samy.
