ג'רמי אלר, מנכ"ל Circle, צופה כי מיליארדי סוכני AI יפעלו בתוך חמש שנים. עם זאת, חוקרים קוראים לנקוט משנה זהירות וקובעים שיש להתייחס לסוכני AI אלה כאל מערכות לא מהימנות. שתי ההצהרות, המגיעות מזוויות שונות של עולם הטכנולוגיה, מציגות ניגוד ברור בין פריסה מהירה לבין זהירות אבטחתית.
תחזית המנכ"ל
אלר חזה את היקף סוכני ה-AI בעתיד הקרוב. אף על פי שלא פירט מקרי שימוש ספציפיים או את התשתית הדרושה לתמיכה בצמיחה כזו, התחזית של ראש חברת תשלומים גדולה מעידה על אמון רחב בהתרחבות הטכנולוגיה. Circle ידועה בעיקר בזכות פעילותה במטבעות דיגיטליים ובלוקצ'יין, אך דבריו של אלר מצביעים על אמונה שסוכני AI יהפכו לנפוצים בכל התעשיות.
אזהרת החוקרים
בנפרד, קבוצת חוקרים פרסמה אזהרה ברורה: אין לסמוך על סוכני AI כברירת מחדל. הם טוענים כי התייחסות למערכות אלה כבלתי מהימנות הכרחית כדי למנוע נזק או שימוש לרעה פוטנציאליים. החוקרים לא ציינו אילו סוגי סוכני AI — מצ'טבוטים פשוטים ועד מקבלי החלטות אוטונומיים יותר — מהווים את הסיכון הגדול ביותר, אך ההמלצה הכוללת מאותתת על דאגה עמוקה בקרב חוקרי התחום.
השקפות מנוגדות על אותו אופק
שתי ההצהרות חולקות מסגרת זמן: חמש השנים הקרובות. האחת צופה מיליארדי סוכנים בפעולה; השנייה קובעת שכל אחד מהם צריך להיחשב בחשדנות. המתח אינו חדש לטכנולוגיה — אימוץ מהיר לעתים קרובות מקדים את החשיבה האבטחתית — אך ההיקף העצום שאלר חוזה הופך את זהירות החוקרים לחריפה במיוחד. אם אכן ייפרסו מיליארדי סוכנים, התייחסות לכל אחד כבלתי מהימן תחייב חשיבה מחודשת על האופן שבו הם נבנים, מנוטרים ומנוהלים.
אף גוף תעשייתי או רגולטור יחיד לא פרסם עדיין כללים מחייבים לאמון בסוכני AI. הפער בין ציר הזמן האופטימי של אלר לבין העמדה האבטחתית-ראשונה של החוקרים מדגיש ויכוח שצפוי להתעצם ככל שמתקרבים לסוף חמש השנים.
