כיצד התעמולה מתפשטת
הצ'אטבוטים, המייצרים תגובות על בסיס מאגרי נתונים עצומים שנגרדו מהאינטרנט, יכולים לשחזר נרטיבים כוזבים המוטמעים בחומר ההדרכה שלהם. תוכן הקשור לרוסיה, כולל תקשורת בחסות המדינה וקמפיינים מתואמים של דיסאינפורמציה, נמצא כעולה בתשובות הצ'אטבוטים. מכיוון שלמודלים חסרה בדיקת עובדות בזמן אמת והם אינם יכולים להבחין בין מקורות אמתיים לבדויים, הם עלולים להעצים בלא כוונה נקודות דיבור של הקרמלין בנושאים החל מהמלחמה באוקראינה ועד להתערבות בבחירות.
אין מדובר בסיכון היפותטי. מחקרים תיעדו מקרים שבהם צ'אטבוטים הפיקו תגובות ששיקפו נושאי דיסאינפורמציה רוסיים ידועים. הבעיה חוצה פלטפורמות וספקי צ'אטבוטים רבים, מה שמעיד על כשל מערכתי באופן שבו מודלים אלו מאומנים ומופעלים.
ביקורת נתונים כצעד ראשון
אחד הפתרונות המיידיים ביותר טמון בביקורת נתונים קפדנית. מפתחי צ'אטבוטים מסתמכים על מאגרי טקסט עצומים שלעתים רחוקות מנוקים מתעמולה בחסות המדינה. ללא בדיקות שיטתיות, תוכן מזיק מחליק פנימה. כלי ביקורת יכולים לזהות ולסנן מקורות דיסאינפורמציה ידועים, אך הם עדיין אינם נוהג מקובל בתעשייה. היעדר אמצעי הגנה כאלה פירושו שתעמולה יכולה להיות מוטבעת במאגר הידע של המודל כבר מההתחלה.
האתגר הוא בהיקף. מאגרי הנתונים המשמשים לאימון צ'אטבוטים יכולים להכיל מיליארדי מסמכים. זיהוי כל פיסת תעמולה רוסית בתוך הרעש הזה דורש מסננים אוטומטיים ובדיקה אנושית – משימה עתירת משאבים שחברות רבות מהססות לממן. עם זאת, ההשלכות של חוסר מעש ברורות: כל פיסת שקר שלא זוהתה עלולה להישנות למשתמשים אלפי פעמים.
מסגרות רגולטוריות מפגרות אחרי ההתפתחויות
החוקים והתקנות הנוכחיים אינם מותאמים לטיפול בדיסאינפורמציה מונעת AI. בארצות הברית אין חוק פדרלי המתייחס ספציפית לאופן שבו צ'אטבוטים צריכים לטפל בתעמולה. חוק הבינה המלאכותית של האיחוד האירופי יטיל דרישות שקיפות מסוימות, אך הוא עדיין לא בתוקף. באזורים אחרים יש אפילו פחות אמצעי הגנה. ואקום רגולטורי זה מותיר את הציבור חשוף לתוכן מניפולטיבי עם מעט אפשרויות לתיקון.
תומכי פיקוח חזק יותר טוענים כי ממשלות צריכות לחייב תקני מקור נתונים – לדרוש מחברות לחשוף מהיכן מגיעים נתוני ההדרכה שלהן וכיצד הם מסוננים. חלקם הציעו להקים גופי ביקורת עצמאיים שיוכלו לבדוק צ'אטבוטים לרגישות לדיסאינפורמציה לפני שחרורם. אך רעיונות אלה נותרו הצעות, לא מדיניות.
הפצת תעמולה דרך צ'אטבוטים של AI אינה באג שניתן לתקן בתיקון מהיר. היא משקפת בעיות עמוקות יותר באופן שבו נתונים נאספים, מאוצרים ומנוהלים. ללא שינויים מערכתיים – כולל ביקורות חובה וחוקים ניתנים לאכיפה – הבעיה צפויה לגדול ככל שהצ'אטבוטים ישתלבו יותר בחיי היומיום.
מה שנותר לא פתור הוא מי ינקוט בצעד הראשון. חברות יכולות לפעול בהתנדבות,
