OpenAI, Google, Meta och Anthropic verkar utan försäkringar som skulle täcka katastrofala AI-risker, vilket lämnar företagen exponerade för potentiellt enorma ekonomiska skulder. Luckan i täckningen, som bekräftats av branschkällor, väcker frågor om vem som skulle betala om ett avancerat AI-system orsakade omfattande skada. Det ger också tillsynsmyndigheter en ny påtryckningspunkt när de överväger hur den snabbrörliga sektorn ska regleras.
Inget skyddsnät för de största riskerna
Försäkring mot katastrofala AI-risker – scenarier där en modell orsakar massiva dödsfall, slår ut kritisk infrastruktur eller utlöser systemiskt finansiellt kaos – ingår inte i standardverktygslådan för riskhantering hos något av de fyra ledande labben. Det beror inte på att företagen inte har undersökt saken. Det beror på att försäkringsbranschen inte har lyckats prissätta en risk som saknar aktuarisk historik och tydliga gränser. En traditionell försäkring kan täcka ett dataintrång eller en diskrimineringsstämning. Den täcker inte en modell som bryter sig ur sin inneslutning och orsakar skada i flera länder.
De fyra företagen – OpenAI, Google, Meta och Anthropic – utvecklar alla gränsöverskridande AI-system. Var och en har publicerat säkerhetsramverk och interna granskningsprocesser. Ingen har offentliggjort en kommersiell försäkringslösning särskilt utformad för katastrofala utfall. Frånvaron är ingen hemlighet inom branschen, men den diskuteras sällan i offentliga handlingar eller kvartalsrapporter.
Varför försäkringsbolagen håller sig borta
Katastrofala AI-risker passar inte in i standardmodellen för försäkring. Försäkringsbolag förlitar sig på historiska data för att uppskatta hur ofta en skadlig händelse inträffar och vad den kostar. AI-katastrofer har inget sådant underlag. Värsta-tänkbara-scenarier är dessutom korrelerade: ett enda modellfel skulle kunna utlösa skadeståndsanspråk från tusentals företag och individer samtidigt – den typ av ansamling som gör försäkringsgivare nervösa. Därtill kommer problemet med moralisk risk. Om ett företag vet att det är försäkrat mot katastrofer kan det ta större risker. Och ansvarsfrågan – vem som är skyldig när ett AI-system agerar på sätt som dess skapare inte avsett – är fortfarande juridiskt oklar i de flesta jurisdiktioner.
Dessa faktorer tillsammans gör katastrofala AI-försäkringar näst intill omöjliga att teckna på dagens marknad. Inte omöjliga, men långt utanför aptiten hos vanliga försäkringsgivare. En handfull specialiserade försäkringsbolag har börjat utforska parametriska produkter som betalar ut när en fördefinierad utlösare inträffar – till exempel att en regering utlyser undantagstillstånd på grund av en AI-incident. Men det är tidiga idéer, inte försäkringar som skyddar balansräkningarna hos världens mest värdefulla AI-företag.
Den finansiella exponeringen kan bli enorm
Utan försäkring skulle företagen själva få bära hela kostnaden för en katastrofal händelse. Det kan innebära miljarder i direkta skador, rättegångskostnader och förlikningar, plus indirekt påverkan på marknadsvärde och framtida intäkter. För OpenAI och Anthropic, som är mindre än Google och Meta, skulle ett enda megakrav kunna hota deras existens. För Google och Meta skulle skadan vara överlevbar men fortfarande betydande – en belastning på vinsten, en distraktion för ledningen och en signal till investerare att risken inte hanterats korrekt.
Exponeringen sträcker sig bortom företagen. Om ett AI-system orsakar skada och utvecklaren inte kan betala kan offren lämnas utan ersättning. Det är scenariot som tillsynsmyndigheterna oroar sig mest för: en katastrof utan djupa fickor att täcka förlusterna. Det är en lucka som skulle kunna förvandla ett tekniskt fel till en politisk kris.
Tillsynsmyndigheterna reagerar
Bristen på försäkring börjar påverka tillsynsmyndigheternas tankegång. Lagstiftare och myndigheter som granskar AI-säkerhet har historiskt fokuserat på transparens, testning och revision. Försäkring är en annan hävstång. Att kräva täckning – eller bevis på finansiellt ansvar – skulle tvinga företagen att sätta ett pris på katastrofala risker, antingen genom premier eller genom kapitalreserver. Det är svårare att kringgå än ett frivilligt säkerhetslöfte.
Inget specifikt försäkringskrav har föreslagits i de tillgängliga uppgifterna. Men avsaknaden av täckning ger tillsynsmyndigheterna en konkret sårbarhet att peka på. Det stärker också argumenten för obligatorisk incidentrapportering och tredjepartsrevisioner, eftersom försäkringsbolagen skulle behöva data för att kunna teckna försäkringar i framtiden.
Vad som händer härnäst
De fyra företagen har inte sagt om de söker katastroftäckning eller planerar att självförsäkra genom captivebolag eller reserver. Den tystnaden kommer sannolikt att sättas på prov. I takt med att AI-system blir mer kapabla och allt djupare integrerade i kritiska system kommer frågan om vem som betalar för ett worst-case-scenario att gå från en nischad riskhanteringsfråga till en central politisk strid. För närvarande är svaret enkelt: företagen gör det, och de gör det ensamma.
