OpenAI, Google, Meta, Anthropic은 치명적 AI 위험을 보장할 보험 정책 없이 운영되고 있어, 이들 기업은 잠재적으로 막대한 재정적 책임에 노출되어 있다. 업계 소식통에 의해 확인된 이 보장 공백은 고도화된 AI 시스템이 광범위한 피해를 초래할 경우 누가 비용을 부담할 것인지에 대한 의문을 제기한다. 또한 빠르게 변화하는 이 분야를 어떻게 규제할지 고심하는 규제 기관들에게 새로운 압박 지점을 제공한다.
가장 큰 위험에 대한 안전망 부재
치명적 AI 위험 — 모델이 대량 사상자를 발생시키거나, 핵심 인프라를 마비시키거나, 시스템적 금융 혼란을 촉발하는 시나리오 — 에 대한 보험은 네 개 선도 연구소 중 어느 곳의 표준 리스크 관리 체계에도 포함되어 있지 않다. 이는 기업들이 검토하지 않았기 때문이 아니다. 보험 업계가 보험 통계 이력도 없고 명확한 경계도 없는 위험의 가격을 책정하는 방법을 아직 찾지 못했기 때문이다. 전통적인 보험 정책은 데이터 유출이나 차별 소송을 보장할 수 있다. 하지만 통제를 벗어나 여러 국가에 걸쳐 피해를 초래하는 모델은 보장하지 않는다.
OpenAI, Google, Meta, Anthropic 네 기업 모두 최전선 AI 시스템을 개발한다. 각사는 안전 프레임워크와 내부 검토 절차를 공개했다. 그러나 어느 곳도 치명적 결과를 특별히 겨냥한 상업적 보험 계약을 공개하지 않았다. 이러한 부재는 업계 내부에서 비밀이 아니지만, 공개 서류나 실적 발표 콘퍼런스 콜에서는 거의 논의되지 않는다.
보험사들이 외면하는 이유
치명적 AI 위험은 표준 보험 모델에 맞지 않는다. 보험사는 나쁜 사건이 얼마나 자주 발생하고 비용이 얼마나 드는지 추정하기 위해 과거 데이터에 의존한다. AI 재앙에는 그러한 실적 기록이 없다. 최악의 시나리오는 또한 상호 연관되어 있다: 단일 모델 실패가 수천 개 기업과 개인의 청구를 동시에 촉발할 수 있으며, 이는 보험 인수자들을 불안하게 만드는 유형의 누적 위험이다. 그다음에는 도덕적 해이 문제가 있다. 기업이 재난에 대해 보험에 가입되어 있다는 것을 알면 더 큰 위험을 감수할 수 있다. 그리고 책임 문제 — AI 시스템이 창작자가 의도하지 않은 방식으로 작동할 때 누구의 잘못인가 — 는 대부분의 관할권에서 법적으로 미해결 상태로 남아 있다.
이러한 요인들이 결합하여 오늘날 시장에서 치명적 AI 보장을 거의 보험 불가능하게 만든다. 불가능하지는 않지만, 주류 보험사의 위험 감수 성향을 훨씬 벗어난다. 소수의 전문 보험사들이 사전 정의된 트리거가 발생할 때 지급하는 파라메트릭 상품을 탐색하기 시작했다 — 예를 들어 정부가 AI 사고에 대해 비상사태를 선언하는 경우. 그러나 이는 초기 단계 아이디어일 뿐, 세계에서 가장 가치 있는 AI 기업들의 재무상태표를 보호하는 보험 정책은 아니다.
재정적 노출 규모는 막대할 수 있다
보험이 없으면 기업 자체가 치명적 사건의 전체 비용을 부담해야 한다. 이는 직접적 손해, 법적 방어 비용, 합의금으로 수십억 달러에 달할 수 있으며, 시장 가치와 미래 수익에 대한 간접적 타격도 더해진다. Google과 Meta보다 규모가 작은 OpenAI와 Anthropic의 경우, 단일 대형 청구가 존속을 위협할 수 있다. Google과 Meta의 경우 피해는 생존 가능하지만 여전히 중대하다 — 수익에 부담이 되고, 경영진의 주의를 분산시키며, 위험이 적절히 관리되지 않았다는 신호를 투자자에게 보낸다.
노출은 기업을 넘어 확장된다. AI 시스템이 피해를 입히고 개발자가 지불할 수 없다면, 피해자들은 보상을 받지 못할 수 있다. 이것이 규제 기관들이 가장 우려하는 시나리오다: 손실을 충당할 깊은 주머니가 없는 재난. 이는 기술적 실패를 정치적 위기로 바꿀 수 있는 공백이다.
규제 기관들의 주목
보험의 부재는 규제 당국의 사고에 영향을 미치기 시작했다. AI 안전을 검토하는 입법자와 기관들은 역사적으로 투명성, 테스트, 감사에 초점을 맞춰왔다. 보험은 다른 지렛대다. 보장을 요구하거나 재정적 책임의 증명을 요구하면 기업들이 보험료를 통해서든 자본 준비금을 통해서든 치명적 위험에 가격을 매기도록 강제할 수 있다. 이는 자발적 안전 서약보다 게임하기 어렵다.
이용 가능한 사실상 구체적인 보험 의무화가 제안되지는 않았다. 그러나 보장의 부재는 규제 기관들이 지적할 수 있는 구체적인 취약점을 제공한다. 또한 보험사들이 미래에 정책을 인수하려면 데이터가 필요하기 때문에 의무적 사고 보고와 제3자 감사에 대한 주장을 강화한다.
다음 단계
네 기업은 치명적 보장을 추구하는지 또는 캡티브나 준비금을 통해 자체 보험을 계획하는지 밝히지 않았다. 이러한 침묵은 시험대에 오를 가능성이 크다. AI 시스템이 더 능력 있고 핵심 시스템에 더 깊이 내재됨에 따라, 최악의 시나리오 비용을 누가 부담할 것인지에 대한 질문은 틈새 리스크 관리 이슈에서 중심 정책 싸움으로 이동할 것이다. 현재로서는 답은 간단하다: 기업들이 부담하며, 그들은 홀로 감당한다.
