OpenAI, Google, Meta ו-Anthropic פועלות ללא פוליסות ביטוח שיכסו סיכוני AI קטסטרופליים, מה שמשאיר את החברות חשופות להתחייבויות כספיות עצומות. הפער בכיסוי, שאושר על ידי מקורות בתעשייה, מעלה שאלות לגבי מי ישלם אם מערכת AI מתקדמת תגרום לנזק נרחב. הוא גם מספק לרגולטורים נקודת לחץ חדשה בעודם שוקלים כיצד להסדיר את הסקטור המהיר.
אין רשת ביטחון לסיכונים הגדולים ביותר
ביטוח מפני סיכוני AI קטסטרופליים — תרחישים שבהם מודל גורם לאבדות המוניות, משתק תשתיות קריטיות, או מעורר כאוס פיננסי מערכתי — אינו חלק ממערך ניהול הסיכונים הסטנדרטי באף אחד מארבעת המעבדות המובילות. זה לא מפני שהחברות לא בדקו. זה מפני שתעשיית הביטוח לא הצליחה לתמחר סיכון שאין לו היסטוריה אקטוארית וגבול ברור. פוליסה מסורתית עשויה לכסות דליפת נתונים או תביעת אפליה. היא לא תכסה מודל שבורח מהכלה וגורם לנזק במדינות רבות.
ארבע החברות — OpenAI, Google, Meta ו-Anthropic — מפתחות כולן מערכות AI מתקדמות. כל אחת פרסמה מסגרות בטיחות ותהליכי בדיקה פנימיים. אף אחת לא חשפה הסדר ביטוחי מסחרי המיועד במיוחד לתוצאות קטסטרופליות. היעדר זה אינו סוד בתוך התעשייה, אך לעתים רחוקות הוא נדון בדוחות פומביים או בשיחות עם משקיעים.
מדוע המבטחים מתרחקים
סיכון AI קטסטרופלי אינו מתאים למודל הביטוחי הסטנדרטי. מבטחים מסתמכים על נתונים היסטוריים כדי להעריך באיזו תדירות מתרחש אירוע רע וכמה הוא עולה. לקטסטרופות AI אין רקורד כזה. תרחישי הגרוע מכל גם מתואמים: כשל של מודל בודד עלול לעורר תביעות מאלפי עסקים ויחידים בבת אחת, סוג ההצטברות שמלחיץ את החתמים. בנוסף, יש בעיית הסיכון המוסרי. אם חברה יודעת שהיא מבוטחת מפני אסון, היא עשויה לקחת סיכונים גדולים יותר. ושאלת האחריות — מי אשם כאשר מערכת AI פועלת בדרכים שיוצריה לא התכוונו — נותרה בלתי מוכרעת מבחינה משפטית ברוב השיפוטים.
גורמים אלו משתלבים כדי להפוך כיסוי AI קטסטרופלי לכמעט בלתי ניתן לביטוח בשוק של היום. לא בלתי אפשרי, אבל הרחק מחוץ לתיאבון של מבטחים מהזרם המרכזי. קומץ מבטחים מיוחדים החלו לחקור מוצרים פרמטריים שמשלמים כאשר מתרחש טריגר מוגדר מראש — למשל, ממשלה שמכריזה על מצב חירום עקב תקרית AI. אבל אלו רעיונות בשלבים מוקדמים, לא פוליסות המגנות על המאזנים של חברות ה-AI היקרות בעולם.
החשיפה הפיננסית עשויה להיות עצומה
ללא ביטוח, החברות עצמן יישאו בעלות המלאה של אירוע קטסטרופלי. זה יכול להיות מיליארדים בנזקים ישירים, עלויות הגנה משפטית והסדרים, בתוספת הפגיעה העקיפה בשווי השוק וההכנסות העתידיות. עבור OpenAI ו-Anthropic, שהן קטנות מ-Google ו-Meta, תביעה ענקית אחת עלולה לאיים על קיומן. עבור Google ו-Meta, הנזק יהיה ניתן להישרדות אך עדיין מהותי — עיכוב ברווחים, הסחת דעת להנהלה, ואות למשקיעים שהסיכון לא נוהל כראוי.
החשיפה חורגת מעבר לחברות. אם מערכת AI תגרום לנזק והמפתח לא יוכל לשלם, קורבנות עלולים להישאר ללא פיצוי. זה התרחיש שהרגולטורים חוששים ממנו ביותר: אסון בלי כיס עמוק לכסות את ההפסדים. זה פער שיכול להפוך כשל טכני למשבר פוליטי.
רגולטורים שמים לב
היעדר הביטוח מתחיל להשפיע על החשיבה הרגולטורית. מחוקקים וסוכנויות הבוחנים בטיחות AI התמקדו היסטורית בשקיפות, בדיקות וביקורת. ביטוח הוא מנוף אחר. דרישת כיסוי — או הוכחה לאחריות פיננסית — תאלץ חברות לתמחר סיכון קטסטרופלי, בין אם דרך פרמיות או דרך רזרבות הון. זה קשה יותר למניפולציה מאשר התחייבות בטיחות וולונטרית.
לא הוצע מנדט ביטוחי ספציפי בעובדות הזמינות. אבל היעדר הכיסוי נותן לרגולטורים פגיעות קונקרטית להצביע עליה. זה גם מחזק טיעונים לדיווח חובה על תקיפות ולביקורות צד שלישי, שכן מבטחים יצטרכו נתונים כדי לחתום פוליסות בעתיד.
מה הלאה
ארבע החברות לא אמרו אם הן מחפשות כיסוי קטסטרופלי או מתכננות לבטח את עצמן דרך חברות ביטוח עצמאיות או רזרבות. השתיקה הזו כנראה תיבחן. ככל שמערכות AI הופכות ליותר יכולות ומוטמעות עמוק יותר במערכות קריטיות, השאלה מי משלם על תרחיש הגרוע מכל תעבור מנושא ניהול סיכונים נישתי למאבק מדיניות מרכזי. לעת עתה, התשובה פשוטה: החברות משלמות, והן עושות זאת לבדן.
