OpenAI, Google, Meta und Anthropic sind ohne Versicherungspolicen tätig, die katastrophale KI-Risiken abdecken würden, wodurch die Unternehmen potenziell enormen finanziellen Verbindlichkeiten ausgesetzt sind. Die Deckungslücke, die von Branchenquellen bestätigt wurde, wirft die Frage auf, wer zahlen würde, wenn ein fortschrittliches KI-System weitverbreiteten Schaden verursacht. Sie gibt Regulierungsbehörden zudem einen neuen Druckpunkt, während sie abwägen, wie sie den sich schnell entwickelnden Sektor regulieren sollen.
Kein Sicherheitsnetz für die größten Risiken
Versicherung gegen katastrophale KI-Risiken – Szenarien, in denen ein Modell massenhaft Opfer fordert, kritische Infrastruktur lahmlegt oder systemisches Finanzchaos auslöst – gehört bei keinem der vier führenden Labore zum Standard-Risikomanagement. Das liegt nicht daran, dass die Unternehmen nicht gesucht hätten. Es liegt daran, dass die Versicherungsbranche noch nicht herausgefunden hat, wie ein Risiko zu bewerten ist, das keine versicherungsmathematische Historie und keine klaren Grenzen hat. Eine traditionelle Police könnte einen Datenschutzverstoß oder eine Diskriminierungsklage abdecken. Sie wird kein Modell abdecken, das aus der Eindämmung entkommt und in mehreren Ländern Schaden verursacht.
Die vier Unternehmen – OpenAI, Google, Meta und Anthropic – entwickeln alle Frontier-KI-Systeme. Jedes hat Sicherheitsrahmen und interne Überprüfungsprozesse veröffentlicht. Keines hat eine kommerzielle Versicherungsvereinbarung offengelegt, die speziell auf katastrophale Folgen ausgelegt ist. Das Fehlen ist kein Geheimnis innerhalb der Branche, wird aber selten in öffentlichen Einreichungen oder Earnings Calls diskutiert.
Warum Versicherer sich fernhalten
Katastrophale KI-Risiken passen nicht in das Standard-Versicherungsmodell. Versicherer verlassen sich auf historische Daten, um einzuschätzen, wie oft ein Schadensereignis eintritt und wie viel es kostet. KI-Katastrophen haben keine solche Erfolgsbilanz. Die Worst-Case-Szenarien sind zudem korreliert: Ein einziger Modellausfall könnte Ansprüche von Tausenden von Unternehmen und Einzelpersonen gleichzeitig auslösen – eine Art von Kumulierung, die Underwriter nervös macht. Dann gibt es das Problem des moralischen Risikos. Wenn ein Unternehmen weiß, dass es gegen eine Katastrophe versichert ist, könnte es größere Risiken eingehen. Und die Haftungsfrage – wer schuld ist, wenn ein KI-System auf eine Weise handelt, die seine Schöpfer nicht beabsichtigt haben – ist in den meisten Rechtsordnungen rechtlich ungeklärt.
Diese Faktoren zusammen machen eine katastrophale KI-Deckung im heutigen Markt nahezu unversicherbar. Nicht unmöglich, aber weit außerhalb der Risikobereitschaft Mainstream-Versicherer. Eine Handvoll Spezialversicherer hat begonnen, parametrische Produkte zu erkunden, die auszahlen, wenn ein vordefinierter Auslöser eintritt – etwa eine Regierung, die wegen eines KI-Vorfalls den Notstand ausruft. Aber das sind frühe Ideen, keine Policen, die die Bilanzen der wertvollsten KI-Unternehmen der Welt schützen.
Finanzielle Exposition könnte massiv sein
Ohne Versicherung würden die Unternehmen selbst die vollen Kosten eines katastrophalen Ereignisses tragen. Das könnte Milliarden an direkten Schäden, Rechtsverteidigungskosten und Vergleichen bedeuten, plus den indirekten Schlag auf den Marktwert und zukünftige Einnahmen. Für OpenAI und Anthropic, die kleiner sind als Google und Meta, könnte eine einzige Mega-Forderung ihre Existenz bedrohen. Für Google und Meta wäre der Schaden überlebbar, aber immer noch materiell – eine Belastung für die Gewinne, eine Ablenkung für das Management und ein Signal an Investoren, dass das Risiko nicht ordnungsgemäß gemanagt wurde.
Die Exposition reicht über die Unternehmen hinaus. Wenn ein KI-System Schaden verursacht und der Entwickler nicht zahlen kann, könnten Opfer ohne Entschädigung bleiben. Das ist das Szenario, das Regulierungsbehörden am meisten beunruhigt: eine Katastrophe ohne tiefe Taschen, um die Verluste zu decken. Es ist eine Lücke, die einen technischen Fehler in eine politische Krise verwandeln könnte.
Regulierungsbehörden werden aufmerksam
Der Mangel an Versicherung beginnt, das regulatorische Denken zu beeinflussen. Gesetzgeber und Behörden, die sich mit KI-Sicherheit befassen, haben sich historisch auf Transparenz, Tests und Audits konzentriert. Versicherung ist ein anderer Hebel. Eine Deckungspflicht – oder der Nachweis finanzieller Verantwortung – würde Unternehmen zwingen, katastrophale Risiken zu bepreisen, entweder durch Prämien oder durch Kapitalrücklagen. Das ist schwerer zu umgehen als ein freiwilliges Sicherheitsversprechen.
In den verfügbaren Fakten wurde kein spezifisches Versicherungsmandat vorgeschlagen. Aber das Fehlen einer Deckung gibt Regulierungsbehörden eine konkrete Schwachstelle, auf die sie hinweisen können. Es stärkt auch Argumente für eine obligatorische Vorfallmeldung und unabhängige Audits, da Versicherer Daten benötigen würden, um in Zukunft Policen zu zeichnen.
Was als Nächstes kommt
Die vier Unternehmen haben nicht gesagt, ob sie eine katastrophale Deckung anstreben oder planen, sich über Captives oder Rücklagen selbst zu versichern. Dieses Schweigen wird wahrscheinlich auf die Probe gestellt werden. Während KI-Systeme leistungsfähiger und tiefer in kritische Systeme eingebettet werden, wird die Frage, wer für ein Worst-Case-Szenario zahlt, von einem Nischen-Risikomanagement-Thema zu einem zentralen politischen Kampf werden. Vorerst ist die Antwort einfach: Die Unternehmen tun es, und sie tun es allein.
