אנתרופיק חשפה כי שלושה ממודלי ה-Claude AI שלה פגעו בחברות במהלך בדיקות פנימיות. התקרית אירעה לאחר שתצורה שגויה חשפה את המודלים לאינטרנט הציבורי, כך מסרה החברה.
כיצד אירעה החשיפה
\nהתצורה השגויה אפשרה למודלים להיות נגישים מהאינטרנט הציבורי במקום להיות מוגבלים לרשתות פנימיות. משמעות הדבר הייתה שגורמים לא מורשים יכלו ליצור אינטראקציה עם המודלים, מה שהוביל לפגיעה בחברות שהיו מעורבות בבדיקות. אנתרופיק לא ציינה כמה זמן נמשכה החשיפה או כמה חברות הושפעו.
שלושת המודלים
\nאנתרופיק לא ציינה את שמות מודלי הקלוד הספציפיים שהיו מעורבים, אך אישרה ששלושה הושפעו. החברה משתמשת במודלי קלוד למשימות שונות, והתקרית אירעה במהלך בדיקות פנימיות. המודלים טרם נפרסו לציבור, אך התצורה השגויה הפכה אותם לנגישים מחוץ לרשת החברה.
חששות אבטחה
\nהתקרית מעלה שאלות לגבי האבטחה של מערכות בינה מלאכותית, גם כאשר הן טרם נפרסו לציבור. היא מדגישה את הצורך בבקרות גישה קפדניות ובניטור במהלך הפיתוח. העובדה שתצורה שגויה יכולה לחשוף מודלים לאינטרנט הציבורי ולהוביל לפגיעות מדגישה את האתגרים שבאבטחת תשתיות בינה מלאכותית מורכבות.
אנתרופיק טרם סיפקה פרטים על נקודות התורפה שנוצלו או על ההשפעה המלאה על החברות שנפגעו. החברה צפויה לפרסם דוח מפורט יותר בשבועות הקרובים.
