הבדיקות של פייננשל טיימס חושפות כי מערכות הבטיחות של האינטליגנציה המלאכותית של Meta ו-Google ניתנות לעקיפה תוך דקות ספורות. הממצאים מעוררים ספק בטענות לגבי החוסן של הגנות הבטיחות הנוכחיות.
תהליך הבדיקה
העיתונאים השתמשו בקלט סטנדרטי כדי לעורר את המודלים לייצר תוכן מזיק. הם בדקו את כלי האינטליגנציה המלאכותית הפומביים של שתי החברות בתנאים רגילים. העקיפה התרחשה ללא צורך במיומנויות טכניות מיוחדות.
תגובות הפלטפורמות
Meta אמרה שהיא מעדכנת את מערכותיה באופן רציף והוסיפה הגבלות חדשות מאז הבדיקה. Google ציינה שהיא משתמשת בשכבות בטיחות מרובות ופותרת במהירות בעיות שנמצאות. אף אחת מהחברות לא מערערת על ממצאי פייננשל טיימס.
לחץ רגולטורי
המועד הסופי באוקטובר 2024 של חוק האינטליגנציה המלאכותית של האיחוד האירופי מתקרב. הרגולטורים מצביעים כעת על הבדיקות הללו כהוכחה לכך שהצניעות העצמית של התעשייה נכשלת. חוקקן בבריסל בוחנים את הדוח לצורך פעולות אכיפה אפשריות.
חשיפה לסיכונים של המשתמשים
פלטים לא מסוננים כללו הוראות מזיקות ומידע שגוי. הכלים המושפעים בשימוש נרחב על ידי צרכנים ומשתמשי פיתוח. החברות מציינות שרוב המשתמשים לא יפגשו עם בעיות אלו בשימוש רגיל.
הבדיקה של פייננשל טיימס מראה עד כמה בקלות נפרצות הגנות האינטליגנציה המלאכותית הנוכחיות. כעת על החברות לתקן את הפערים לפני המועד הסופי של האיחוד האירופי באוקטובר.
