OpenAI, Google, Meta และ Anthropic ดำเนินธุรกิจโดยไม่มีกรมธรรม์ประกันภัยที่ครอบคลุมความเสี่ยง AI มูลค่ามหาศาล ซึ่งทำให้บริษัทเหล่านี้เผชิญกับหนี้สินทางการเงินที่อาจมหาศาล ช่องว่างในการคุ้มครองซึ่งได้รับการยืนยันจากแหล่งข่าวในอุตสาหกรรม ทำให้เกิดคำถามว่าใครจะรับผิดชอบหากระบบ AI ขั้นสูงก่อให้เกิดความเสียหายในวงกว้าง นอกจากนี้ยังเป็นจุดกดดันใหม่สำหรับหน่วยงานกำกับดูแลที่กำลังพิจารณาวิธีการกำกับดูแลภาคส่วนที่เคลื่อนไหวอย่างรวดเร็วนี้
ไม่มีตาข่ายนิรภัยสำหรับความเสี่ยงที่ใหญ่ที่สุด
การประกันภัยต่อความเสี่ยง AI มูลค่ามหาศาล — สถานการณ์ที่โมเดลทำให้มีผู้เสียชีวิตจำนวนมาก ทำลายโครงสร้างพื้นฐานสำคัญ หรือกระตุ้นความวุ่นวายทางการเงินในระดับระบบ — ไม่ได้เป็นส่วนหนึ่งของแผนการบริหารความเสี่ยงมาตรฐานของห้องปฏิบัติการชั้นนำทั้งสี่แห่ง นั่นไม่ใช่เพราะบริษัทเหล่านี้ไม่ได้มองหา แต่เป็นเพราะอุตสาหกรรมประกันภัยยังไม่สามารถกำหนดราคาความเสี่ยงที่ไม่มีประวัติทางคณิตศาสตร์ประกันภัยและไม่มีขอบเขตที่ชัดเจนได้ กรมธรรม์แบบดั้งเดิมอาจครอบคลุมการรั่วไหลของข้อมูลหรือการฟ้องร้องเลือกปฏิบัติ แต่จะไม่ครอบคลุมโมเดลที่หลุดออกจากการควบคุมและก่อให้เกิดความเสียหายในหลายประเทศ
บริษัททั้งสี่ — OpenAI, Google, Meta และ Anthropic — ต่างพัฒนาระบบ AI ชั้นแนวหน้า แต่ละแห่งได้เผยแพร่กรอบความปลอดภัยและกระบวนการตรวจสอบภายใน ไม่มีแห่งใดเปิดเผยข้อตกลงประกันภัยเชิงพาณิชย์ที่ออกแบบมาเฉพาะสำหรับผลลัพธ์หายนะ การขาดหายไปนี้ไม่ใช่ความลับในอุตสาหกรรม แต่ไม่ค่อยมีการพูดถึงในเอกสารสาธารณะหรือการประชุมนักลงทุน
ทำไมบริษัทประกันจึงหลีกเลี่ยง
ความเสี่ยง AI มูลค่ามหาศาลไม่เข้ากับแบบจำลองประกันภัยมาตรฐาน บริษัทประกันอาศัยข้อมูลในอดีตเพื่อประเมินความถี่ของเหตุการณ์ร้ายแรงและค่าใช้จ่าย AI มูลค่ามหาศาลไม่มีบันทึกดังกล่าว สถานการณ์เลวร้ายที่สุดยังมีความสัมพันธ์กัน: ความล้มเหลวของโมเดลเดียวอาจกระตุ้นการเรียกร้องจากธุรกิจและบุคคลหลายพันรายในคราวเดียว ซึ่งเป็นการสะสมความเสี่ยงที่ทำให้ผู้รับประกันภัยกังวล นอกจากนี้ยังมีปัญหาความเสี่ยงทางศีลธรรม หากบริษัทรู้ว่าตนมีประกันภัยต่อภัยพิบัติ อาจเสี่ยงมากขึ้น และคำถามเรื่องความรับผิด — ใครเป็นผู้ผิดเมื่อระบบ AI กระทำการที่ผู้สร้างไม่ได้ตั้งใจ — ยังไม่ได้รับการตัดสินทางกฎหมายในเขตอำนาจส่วนใหญ่
ปัจจัยเหล่านี้รวมกันทำให้การประกันภัย AI มูลค่ามหาศาลแทบจะไม่สามารถประกันได้ในตลาดปัจจุบัน ไม่ใช่เป็นไปไม่ได้ แต่ไกลเกินความสนใจของบริษัทประกันกระแสหลัก บริษัทประกันเฉพาะทางไม่กี่แห่งเริ่มสำรวจผลิตภัณฑ์พาราเมตริกที่จ่ายเมื่อเกิดเหตุการณ์ที่กำหนดไว้ล่วงหน้า — เช่น รัฐบาลประกาศสถานการณ์ฉุกเฉินจากเหตุการณ์ AI แต่สิ่งเหล่านี้เป็นแนวคิดระยะเริ่มต้น ไม่ใช่กรมธรรม์ที่ปกป้องงบดุลของบริษัท AI ที่มีมูลค่าสูงที่สุดในโลก
ความเสี่ยงทางการเงินอาจมหาศาล
หากไม่มีประกัน บริษัทเองจะต้องรับผิดชอบค่าใช้จ่ายทั้งหมดของเหตุการณ์หายนะ ซึ่งอาจหมายถึงความเสียหายโดยตรงหลายพันล้าน ค่าทนายความ และค่าชดเชย รวมถึงผลกระทบทางอ้อมต่อมูลค่าตลาดและรายได้ในอนาคต สำหรับ OpenAI และ Anthropic ซึ่งเล็กกว่า Google และ Meta การเรียกร้องครั้งใหญ่ครั้งเดียวอาจคุกคามการอยู่รอดของพวกเขา สำหรับ Google และ Meta ความเสียหายจะอยู่รอดได้แต่ยังมีนัยสำคัญ — เป็นภาระต่อกำไร รบกวนผู้บริหาร และเป็นสัญญาณต่อนักลงทุนว่าความเสี่ยงไม่ได้ถูกจัดการอย่างเหมาะสม
ความเสี่ยงขยายไปไกลกว่าบริษัท หากระบบ AI ก่อให้เกิดความเสียหายและผู้พัฒนาไม่สามารถจ่ายได้ เหยื่ออาจไม่ได้รับการชดเชย นี่คือสถานการณ์ที่หน่วยงานกำกับดูแลกังวลมากที่สุด: ภัยพิบัติที่ไม่มีกระเป๋าเงินลึกพอจะครอบคลุมความสูญเสีย เป็นช่องว่างที่อาจเปลี่ยนความล้มเหลวทางเทคนิคให้เป็นวิกฤตทางการเมือง
หน่วยงานกำกับดูแลให้ความสนใจ
การขาดประกันภัยเริ่มมีอิทธิพลต่อแนวคิดด้านกฎระเบียบ ผู้กำหนดกฎหมายและหน่วยงานที่ดูความปลอดภัย AI มักมุ่งเน้นที่ความโปร่งใส การทดสอบ และการตรวจสอบ ประกันภัยเป็นกลไกที่แตกต่าง การกำหนดให้มีความคุ้มครอง — หรือหลักฐานความรับผิดชอบทางการเงิน — จะบังคับให้บริษัทกำหนดราคาความเสี่ยงหายนะ ไม่ว่าจะผ่านเบี้ยประกันหรือเงินสำรองทุน ซึ่งยากที่จะหลบเลี่ยงกว่าคำมั่นสัญญาความปลอดภัยโดยสมัครใจ
ยังไม่มีข้อเสนอการบังคับประกันภัยเฉพาะในข้อเท็จจริงที่มีอยู่ แต่การขาดความคุ้มครองทำให้หน่วยงานกำกับดูแลมีจุดอ่อนที่จับต้องได้ในการอ้างอิง นอกจากนี้ยังเสริมข้อโต้แย้งสำหรับการรายงานเหตุการณ์ภาคบังคับและการตรวจสอบโดยบุคคลที่สาม เนื่องจากบริษัทประกันจะต้องมีข้อมูลในการรับประกันภัยในอนาคต
สิ่งที่จะเกิดขึ้นต่อไป
บริษัททั้งสี่ไม่ได้กล่าวว่าพวกเขากำลังมองหาความคุ้มครองหายนะหรือวางแผนประกันตนเองผ่านบริษัทในเครือหรือเงินสำรอง ความเงียบนี้มีแนวโน้มที่จะถูกทดสอบ เมื่อระบบ AI มีความสามารถมากขึ้นและฝังลึกในระบบสำคัญ คำถามว่าใครจะจ่ายสำหรับสถานการณ์เลวร้ายที่สุดจะเคลื่อนจากประเด็นการบริหารความเสี่ยงเฉพาะทางไปสู่การต่อสู้เชิงนโยบายหลัก สำหรับตอนนี้ คำตอบง่ายมาก: บริษัทต่างๆ จ่าย และพวกเขาจ่ายคนเดียว
