אנתרופיק אומרת שהטמיעה הגנות חדשות שמפחיתות את כמות נתוני האימון שתוקפים יכולים לחלץ ממודלי קלוד שלה באמצעות זיקוק (distillation) ב-90 עד 99 אחוזים. החברה הודיעה על הצעדים כחלק ממאמץ רחב יותר להגן על שלמות המודל ועל הטכנולוגיה הקניינית שלה.
התקפות זיקוק כוללות שליחת שאילתות חוזרות ונשנות למודל כדי לאסוף את הפלטים שלו, ואז שימוש בנתונים האלה לאימון מערכת מתחרה. הטכניקה מאפשרת למישהו לרכוב על המחקר של חברה אחרת בלי לשלם עליו. אמצעי ההגנה החדשים של אנתרופיק נועדו להפוך את התהליך הזה להרבה פחות יעיל.
איך ההתקפות עובדות
בהתקפת זיקוק, היריב לא צריך גישה לקוד הבסיסי של המודל או למשקולות שלו. הוא רק צריך את היכולת לשלוח שאילתות ולתעד את התגובות. על ידי הרצת מיליוני פרומפטים דרך מודל, הם יכולים לבנות מערך נתונים שלוכד הרבה מההתנהגות שלו. מערך הנתונים הזה הופך לחומר אימון למודל מתחרה, שיכול לחקות את היכולות של המקור בעלות פיתוח נמוכה בהרבה.
עבור חברות AI, זו בעיה גם של אבטחה וגם של עסקים. הפלטים מייצגים חודשים של מחקר והוצאות מחשוב משמעותיות. אם מתחרה יכול לקצור את הפלטים האלה בזול, התמריץ להשקיע במודלי חזית מתכווץ. ההגנות של אנתרופיק שואפות לשבור את השרשרת הזו על ידי הפיכת הנתונים הנקצרים לפחות שימושיים או קשים יותר לאיסוף בקנה מידה.
מה אנתרופיק שינתה
החברה לא פירטה את המנגנונים הטכניים המדויקים, אבל אמרה שההגנות מתוכננות לזהות ולשבש ניסיונות זיקוק בזמן אמת. זה יכול להיות הגבלת קצב של דפוסי שאילתות חשודים, הוספת רעש לפלטים, או סימון תגובות כך שניתן יהיה לעקוב אחריהן. אנתרופיק טוענת שהתוצאה היא הפחתה של 90 עד 99 אחוזים בנתונים שתוקפים מצליחים לקצור.
הטווח רחב כי היעילות משתנה לפי שיטת התקיפה. פעולת גרידה גסה בנפח גבוה עשויה להיחסם כמעט לחלוטין, בעוד שגישה זהירה יותר, איטית ונמוכה, עשויה עדיין לעבור. אנתרופיק אומרת שתמשיך לכוונן את המערכת ככל שהיריבים מסתגלים.
זו לא הפעם הראשונה שחברת AI מדברת על זיקוק. גם OpenAI וגם Google האשימו מתחרים בשימוש בפלטים של המודלים שלהן לאימון מערכות מתחרות. אבל תוצאות פומביות ומכומתות הן נדירות. המספרים של אנתרופיק נותנים אמת מידה קונקרטית למידת הביצועים של מערך הגנות אחד, לפחות לפי המדידה של החברה עצמה.
גניבת מודלים נמצאת בצומת של אבטחה, קניין רוחני ותחרותיות לאומית. ממשלות מתחילות להתייחס למודלי AI מתקדמים כנכסים אסטרטגיים. אם ניתן לצמצם את הזיקוק, זה מחזק את הטיעון של חברות להמשיך להשקיע במודלים גדולים ויקרים יותר בלי לחשוש שהעבודה שלהן תועתק בין לילה.
יש גם היבט של בטיחות. אם שחקן זדוני מזקק מודל ומסיר כוונון בטיחות, הוא יכול ליצור גרסה לא מיושרת שקשה יותר לנטר. ההגנות של אנתרופיק לא מתייחסות ישירות לתרחיש הזה, אבל על ידי הפיכת הזיקוק לקשה יותר, הן מעלות את העלות למי שמנסה זאת.
ההכרזה מגיעה כשאנתרופיק מתמודדת עם תחרות גוברת ממודלים בעלי משקולות פתוחות שהם חופשיים לשימוש ולשינוי. ניתן לזקק מודלים אלה ללא שאילתות API כלל, כך שההגנות החדשות לא חלות עליהם. הגישה של החברה היא הימור שמודלים קנייניים מבוססי API יישארו בעלי ערך מספיק כדי שלקוחות ישלמו על גישה, ושהגנה עליהם שווה את המאמץ ההנדסי.
אנתרופיק לא אמרה אם תפרסם מאמר טכני או תפתח את כלי ההגנה בקוד פתוח. לעת עתה, הנתון של 90 עד 99 אחוזים הוא טענה שחוקרים חיצוניים לא יכולים לאמת בקלות. החברה אומרת שתמשיך לעדכן את המערכת ככל שתלמד יותר על אופן הפעולה של תוקפים.
מתחרים כנראה צופים מקרוב. אם ההגנות יחזיקו מעמד, הן יכולות להפוך לתכונה סטנדרטית של ממשקי API מסחריים ל-AI. אם לא, משחק החתול והעכבר בין ספקי מודלים לקוצרי נתונים יימשך, כשכל צד מתאים את עצמו למהלך האחרון של השני.
