การทดสอบของ Financial Times เผยให้เห็นว่ามาตรการควบคุมความปลอดภัย AI ของ Meta และ Google สามารถถูกเลี่ยงได้ภายในไม่กี่นาที ผลการทดสอบท้าทายข้ออ้างเกี่ยวกับความแข็งแกร่งของมาตรการป้องกันในปัจจุบัน
ระเบียบวิธีทดสอบ
นักข่าวใช้อินพุตมาตรฐานเพื่อกระตุ้นให้โมเดลสร้างเนื้อหาที่เป็นอันตราย โดยทดสอบเครื่องมือ AI ที่เปิดให้สาธารณะของทั้งสองบริษัทภายใต้สภาวะปกติ การเลี่ยงมาตรการเกิดขึ้นโดยไม่ต้องใช้ทักษะทางเทคนิคเฉพาะทาง
การตอบสนองของแพลตฟอร์ม
Meta กล่าวว่าบริษัทอัปเดตระบบอย่างต่อเนื่องและได้เพิ่มข้อจำกัดใหม่หลังการทดสอบ Google ระบุว่าใช้ชั้นความปลอดภัยหลายชั้นและจัดการกับปัญหาที่พบอย่างรวดเร็ว ทั้งสองบริษัทไม่ได้โต้แย้งผลการทดสอบของ FT
แรงกดดันด้านกฎระเบียบ
เส้นตายเดือนตุลาคม 2024 สำหรับการปฏิบัติตามกฎหมาย AI ของสหภาพยุโรป (EU AI Act) กำลังใกล้เข้ามา ขณะนี้หน่วยงานกำกับดูแลชี้ว่าการทดสอบเหล่านี้เป็นหลักฐานว่าการกำกับดูแลตนเองในอุตสาหกรรมล้มเหลว ผู้บัญญัติกฎหมายในบรัสเซลส์กำลังทบทวนรายงานเพื่อพิจารณามาตรการบังคับใช้ที่อาจเกิดขึ้น
ความเสี่ยงที่ผู้ใช้เผชิญ
ผลลัพธ์ที่ไม่ผ่านการกรองรวมถึงคำแนะนำที่เป็นอันตรายและข้อมูลเท็จ เครื่องมือที่ได้รับผลกระทบถูกใช้อย่างแพร่หลายโดยผู้บริโภคและนักพัฒนา บริษัทยืนยันว่าผู้ใช้ส่วนใหญ่จะไม่พบปัญหาเหล่านี้ในการใช้งานปกติ
การทดสอบของ Financial Times แสดงให้เห็นว่าการป้องกัน AI ในปัจจุบันสามารถแตกหักได้ง่ายเพียงใด ตอนนี้บริษัทต่างๆ ต้องแก้ไขช่องว่างเหล่านี้ก่อนที่เส้นตายของ EU ในเดือนตุลาคมจะมาถึง
