מנכ"ל CertiK, רונגהוי גו, משמיע אזעקה בנוגע למרוץ לפריסת סוכני AI בקנה מידה נרחב. בהצהרה לאחרונה, גו הזהיר כי שימוש נרחב במערכות אוטונומיות אלו ללא אמצעי הגנה מתאימים עלול לגרום לאסונות אבטחה, במיוחד כאשר מטפלים בנתונים אישיים רגישים ובנכסים דיגיטליים.
מדוע האזהרה חשובה כעת
סוכני AI — תוכנות הפועלות באופן עצמאי בשם המשתמשים — משולבים בכל דבר, משירות לקוחות ועד ארנקי קריפטו. אבל גו, שחברתו מתמחה באבטחת בלוקצ'יין וחוזים חכמים, טוען שקצב הפריסה עולה על אמצעי האבטחה הדרושים כדי להכיל אותם. הוא הצביע במיוחד על הסיכון של גישה לא מורשית אם הסוכנים אינם מבודדים כראוי במהלך הבדיקות.
ללא בידוד, סוכן יחיד שנפרץ עלול לחשוף מיליוני רשומות משתמשים או לרוקן ארנקים דיגיטליים. גו לא ציין אירוע ספציפי, אבל דבריו מגיעים בזמן שחברות מתחרות להטמיע סוכני AI במערכות פיננסיות ואישיות.
בידוד כאמצעי הגנה
גו ממליץ למפתחים לנעול סוכני AI בתוך סביבות נפרדות ומבודדות במהלך הבדיקות. גישת ארגז החול הזו מונעת מהסוכנים להגיע למאגרי מידע חיים, מפתחות פרטיים או תשתית רגישה אחרת עד שאישור ההתנהגות שלהם במלואה. "פריסה המונית של סוכני AI מהווה סיכונים משמעותיים", אמר גו, וקרא לצוותים להתייחס לכל סוכן כאל וקטור איום פוטנציאלי עד שיוכח כבטוח.
ההמלצה מהדהדת שיטות שכיחות באבטחת תוכנה — כמו הרצת קוד לא מהימן במכונות וירטואליות — אך מיישמת אותן על האתגרים הייחודיים של AI אוטונומי. מכיוון שסוכנים יכולים לפעול בעצמם, פגם שנוצל במהלך בדיקה עלול לגלוש לנזק בעולם האמיתי אם לסוכן יש גישה חלקית לרשת.
מה התעשייה עומדת בפניו
נכון לעכשיו, אין תקן אוניברסלי לבדיקת סוכני AI. חברות רבות פורסות אותם ישירות לסביבת הייצור עם אמצעי הגנה מינימליים, ומהמרות שהיתרונות עולים על הסכנות. אזהרתו של גו מרמזת שהימור זה עלול להתפוצץ. הוא לא הזכיר חברות או מוצרים ספציפיים, אבל המשמעות ברורה: תעשיית האבטחה צריכה להדביק את הפער לפני שהסוכנים הופכים לנפוצים.
CertiK עצמה בנתה כלים לביקורת חוזים חכמים ומערכות בלוקצ'יין, וקריאתו של גו לבידוד עשויה לאותת על דחיפה רחבה יותר לרמת דיוק דומה בפיתוח סוכני AI. האם מפתחים יאמצו את הפרקטיקה נותרה שאלה פתוחה.
המסר של גו הוא ישיר: בדקו סוכנים בקופסה לפני שחרורם על נתונים חיים. עבור חברות המתחרות לפריסת AI, אותה עצירה לבידוד עשויה להיות ההבדל בין כלי שימושי לפרצה יקרה.
