Certik, חברת אבטחת בלוקצ'יין, השיקה ב-27 במאי פלטפורמה חדשה שהיא מכנה 'אנטי-וירוס לסוכני AI'. הכלי נועד לזהות סיכונים החבויים בתוך מיומנויות AI של צד שלישי – התוספות דמויות התוסף שמרחיבות את מה שסוכן AI יכול לעשות.
למה הפלטפורמה נבנתה
החברה אומרת שעליית שווקים פתוחים שבהם מפתחים מעלים ומוכרים מיומנויות AI יצרה נקודה עיוורת באבטחה. כל אחד יכול לפרסם מיומנות. מעט משתמשים בודקים מה הקוד באמת עושה. הפלטפורמה של Certik שואפת לסרוק את המיומנויות האלה לפני פריסתן, ולסמן הכל מדליפות מידע ועד דלתות אחוריות נסתרות.
מה היא סורקת
הפלטפורמה מעריכה את ההתנהגות של קוד AI של צד שלישי מול קבוצת קריטריוני סיכון. זה כולל לאיזה מידע המיומנות ניגשת, האם היא מתקשרת עם שרתים חיצוניים, והאם פעולותיה תואמות את המטרה המוצהרת שלה. Certik משווה את התהליך לאופן שבו תוכנת אנטי-וירוס מסורתית בודקת קבצים לאיתור תוכנות זדוניות – רק שכאן המטרה היא הלוגיקה וההרשאות של מיומנות סוכן AI.
הבעיה שהיא פותרת
מיומנויות AI של צד שלישי שלא נבדקו הן כאב ראש הולך וגובר עבור חברות שבונות מערכות מבוססות סוכנים. מיומנות שנראית תמימה – נניח, מארגן יומן – עלולה לגנוב מיילים או להזריק הנחיות זדוניות. הפלטפורמה של Certik לא רק מסמנת בעיות; היא מספקת ציון סיכון כך שמפתחים יוכלו להחליט אם לסמוך על המיומנות או לחסום אותה.
Certik לא אמרה אילו פלטפורמות סוכני AI או שווקים הכלי תומך בהם תחילה. הפרט הזה עדיין חסר. החברה גם לא פרסמה תמחור או הדגמה ציבורית. אבל השקת המוצר מאותתת שתעשיית האבטחה מתחילה להתייחס לסוכני AI כמשטח תקיפה נפרד – שזקוק לסוג הגנה משלו.
