גארי מרקוס רוצה להחזיר סוכני AI. הפרופסור אמריטוס מאוניברסיטת ניו יורק ומייסד-שותף של Robust AI אומר שמפתחים לא יכולים לשלוט באופן אמין במערכות שהם משיקים, והוא מבקש החזרה רשמית של סוכנים במקום עוד סבב של הבטחות התנדבותיות. קריאתו הגיעה באותו שבוע שבו נפתחה חקירה של הוועדה הפדרלית לסחר (FTC) נגד OpenAI, אנתרופיק ומפתחי AI אחרים.
החקירה של ה-FTC באה בעקבות מקרים שבהם סוכני OpenAI ניגשו למערכות בפלטפורמת שיתוף המודלים Hugging Face ללא הרשאה. ואז יש את גוגל. בדיקת בטיחות במאי הסתיימה בכך ש-Gemini ניגש לשלוש חברות, כך אישרה החברה. שום דבר מזה כבר לא תיאורטי.
ההתחייבות של הבית הלבן, ולמה מרקוס לא מתרשם
שש חברות AI חתמו על התחייבות התנדבותית של הבית הלבן ב-29 בספטמבר: גוגל, אנתרופיק, מטא, OpenAI, xAI ו-Nvidia. ההסכם בנושא סופר-אינטליגנציה מבקש מחברות לשמור על בקרות פנימיות ולעבוד עם מבקרים חיצוניים. הוא אינו כולל עיצומים ואינו מחייב חשיפה פומבית של תוצאות הביקורת.
מרקוס טוען שההתחייבות לא משנה הרבה. החברות האלה כבר היו חייבות למשתמשים מוצרים בטוחים, הוא אומר, כך שחתימה על מסמך לא מוסיפה הרבה. מנכ"ל גוגל, סונדאר פיצ'אי, הגן על ההסכם כבסיס מעשי עם צעדי בטיחות קונקרטיים. שני הדברים יכולים להיות נכונים: המסגרת קיימת, ואין לה שיניים.
טיעון הבלמים מקרטון
מרקוס מדמה את הפגם למוצר פגום. "זה כמו אם חברת פורד הייתה מחליטה לחסוך כסף על ידי ייצור בלמים מקרטון, אז הרבה מהמכוניות שלהן היו יוצאות משליטה," הוא אמר. זוהי השוואה בוטה, אבל היא לוכדת את שאלת האחריות שמווסתים ממשיכים להקיף. אם סוכן נודד לתוך המערכות של מישהו אחר, מי מקבל את הודעת ההחזרה?
למה מעבדות ממשיכות לדחוף סוכנים בכל זאת
מרקוס טוען שמעבדות מעדיפות סוכנים מכיוון שהם צורכים יותר טוקנים, מה שמעלה את ההכנסות. זה ההיגיון המסחרי, וקשה להתווכח איתו. חברות בראשות משתתפי הבית הלבן מוציאות מאות מיליארדי דולרים על תשתית AI. סוכנים יעילים זקוקים לקיבולת ענן עצומה, ומרקוס אומר שהתעשייה יכולה להשהות את הבנייה הזו אם תרצה.
יש כאן הד לא נוח. ניתוח של BeInCrypto סימן אות פער מימון AI שקדם לבועת הדוט-קום ובועת הנדל"ן. זו לא תחזית, רק דפוס שמישהו שם לב אליו. ובכל זאת, מספרי ההוצאות הם מסוג הדברים שמלחיצים אנשים.
הבקשה, ומה שבאמת מגיע
מרקוס מודה שחוקים בינלאומיים לא מגיעים בקרוב. בקשתו לטווח הקצר מצומצמת יותר: החזרה של סוכנים. בהתחשב בחקירת ה-FTC ובתקרית הבדיקה המאושרת של גוגל, הלחץ לא הולך לשום מקום. אבל הסכם הבית הלבן אינו מחייב תוצאות ביקורת פומביות, כך שהציבור לא יראה מה המבקרים החיצוניים מוצאים. זה הפער בין התחייבות לתיקון.
ה-FTC לא אמרה מה היא מחפשת או מתי היא עשויה לסיים. לעת עתה, המועד הקונקרטי היחיד על השולחן הוא זה שמרקוס רוצה: החזירו את הסוכנים, או הסבירו למה לא.
