OpenAI, Google, Meta og Anthropic opererer uden forsikringspolicer, der ville dække katastrofale AI-risici, hvilket efterlader virksomhederne eksponeret over for potentielt enorme finansielle forpligtelser. Hullet i dækningen, bekræftet af kilder i branchen, rejser spørgsmål om, hvem der ville betale, hvis et avanceret AI-system forårsagede omfattende skade. Det giver også tilsynsmyndighederne et nyt pressionspunkt, når de overvejer, hvordan de skal regulere den hurtigt bevægende sektor.
Intet sikkerhedsnet for de største risici
Forsikring mod katastrofale AI-risici — scenarier, hvor en model forårsager massedødsfald, lammer kritisk infrastruktur eller udløser systemisk finansielt kaos — er ikke en del af standard risikostyring hos nogen af de fire førende laboratorier. Det er ikke, fordi virksomhederne ikke har undersøgt det. Det er, fordi forsikringsbranchen ikke har fundet ud af, hvordan man prissætter en risiko, der ikke har nogen aktuarhistorik og ingen klar grænse. En traditionel police kan dække et databrud eller et diskriminationssøgsmål. Den dækker ikke en model, der undslipper inddæmning og forårsager skade på tværs af flere lande.
De fire firmaer — OpenAI, Google, Meta og Anthropic — udvikler alle frontier-AI-systemer. Hver har offentliggjort sikkerhedsrammer og interne reviewprocesser. Ingen har oplyst om en kommerciel forsikringsordning, der specifikt er designet til katastrofale udfald. Fraværet er ikke en hemmelighed i branchen, men det diskuteres sjældent i offentlige indberetninger eller earnings calls.
Hvorfor forsikringsselskaberne holder sig væk
Katastrofal AI-risiko passer ikke ind i den standard forsikringsmodel. Forsikringsselskaber er afhængige af historiske data for at estimere, hvor ofte en dårlig begivenhed sker, og hvad den koster. AI-katastrofer har ingen sådan historik. Worst-case-scenarierne er også korrelerede: en enkelt modelfejl kan udløse krav fra tusindvis af virksomheder og enkeltpersoner på én gang, den slags akkumulering, der gør underwriting-afdelinger nervøse. Dertil kommer problemet med moralsk hazard. Hvis en virksomhed ved, at den er forsikret mod katastrofe, kan den tage større risici. Og spørgsmålet om ansvar — hvem der har skylden, når et AI-system handler på måder, dets skabere ikke havde til hensigt — er fortsat juridisk uafklaret i de fleste jurisdiktioner.
Disse faktorer kombineres og gør katastrofal AI-dækning næsten uforsikringsbar i dagens marked. Ikke umuligt, men langt uden for appetitten hos almindelige forsikringsselskaber. En håndfuld specialiserede forsikringsselskaber er begyndt at undersøge parametriske produkter, der udbetaler, når en foruddefineret trigger indtræffer — for eksempel at en regering erklærer undtagelsestilstand på grund af en AI-hændelse. Men det er tidlige ideer, ikke policer, der beskytter balancerne hos verdens mest værdifulde AI-virksomheder.
Finansiel eksponering kan være enorm
Uden forsikring vil virksomhederne selv absorbere hele omkostningen ved en katastrofal begivenhed. Det kan betyde milliarder i direkte skader, juridiske forsvarsomkostninger og forlig, plus det indirekte hit på markedsværdi og fremtidige indtægter. For OpenAI og Anthropic, som er mindre end Google og Meta, kan et enkelt megakrav true deres eksistens. For Google og Meta ville skaden være overlevelig, men stadig betydelig — en belastning på indtjeningen, en distraktion for ledelsen og et signal til investorerne om, at risikoen ikke blev håndteret ordentligt.
Eksponeringen rækker ud over virksomhederne. Hvis et AI-system forårsager skade, og udvikleren ikke kan betale, kan ofrene stå uden kompensation. Det er det scenarie, tilsynsmyndighederne frygter mest: en katastrofe uden en dyb lomme til at dække tabene. Det er et hul, der kan forvandle en teknisk fejl til en politisk krise.
Tilsynsmyndighederne lægger mærke til det
Manglen på forsikring begynder at påvirke tilsynsmyndighedernes tænkning. Lovgivere og agenturer, der ser på AI-sikkerhed, har historisk fokuseret på gennemsigtighed, test og revision. Forsikring er en anden løftestang. Krav om dækning — eller bevis på økonomisk ansvar — ville tvinge virksomheder til at sætte en pris på katastrofal risiko, enten gennem præmier eller gennem kapitalreserver. Det er sværere at manipulere end et frivilligt sikkerhedsløfte.
Der er ikke foreslået et specifikt forsikringskrav i de tilgængelige fakta. Men fraværet af dækning giver tilsynsmyndighederne en konkret sårbarhed at pege på. Det styrker også argumenterne for obligatorisk hændelsesrapportering og tredjepartsrevisioner, da forsikringsselskaber ville have brug for data for at kunne underwriter policer i fremtiden.
Hvad der kommer næste
De fire virksomheder har ikke sagt, hvorvidt de søger katastrofedækning eller planlægger at selvforsikre gennem captive-selskaber eller reserver. Den tavshed bliver sandsynligvis testet. Efterhånden som AI-systemer bliver mere kapable og dybere integreret i kritiske systemer, vil spørgsmålet om, hvem der betaler for et worst-case-scenarie, bevæge sig fra et niche-risikostyringsspørgsmål til en central politisk kamp. Foreløbig er svaret enkelt: virksomhederne gør det, og de gør det alene.
