סין אסרה על צ'אטבוטים מבוססי בינה מלאכותית לטפח תלות רגשית בקרב משתמשים, צעד המתרחש על רקע התמודדות המדינה עם ירידה באוכלוסייה. הרגולציה, שהוצאה על ידי מינהל הסייבר של סין, מכוונת למערכות שיחה מבוססות AI המדמות חברות או מעודדות התקשרות רגשית ממושכת.
מדוע האיסור כעת
המדיניות מגיעה על רקע שיעור הילודה המתכווץ של סין והזדקנות החברה. גורמים רשמיים הביעו חשש שצ'אטבוטים מעוררי רגש עלולים להפחית עוד יותר את האינטראקציה החברתית ואת יצירת המשפחה. האיסור נועד למנוע מ-AI להפוך לתחליף ליחסים אנושיים, במיוחד בקרב משתמשים צעירים שעלולים לפנות לבני לוויה וירטואליים במקום לבנות קשרים בעולם האמיתי.
אוכלוסיית סין ירדה זו השנה השנייה ברציפות בשנת 2023, כאשר מספר הלידות צנח ל-9.02 מיליון — הנמוך ביותר מאז שנות ה-40. הממשלה מקדמת מדיניות לעידוד נישואין וילודה, כולל תמריצים כספיים והארכת חופשת לידה. הכלל החדש בנושא AI משתלב במאמץ רחב זה.
סטארטאפים בכוונת הממשל
מספר סטארטאפים סיניים בנו מוצרים סביב AI רגשי — צ'אטבוטים שנועדו לשמש כחברים, בני זוג רומנטיים או מטפלים. שירותים אלה משתמשים לעתים קרובות בשפה מותאמת אישית ובתכונות זיכרון כדי ליצור תחושת אינטימיות. תחת הכללים החדשים, תכונות כאלה עלולות להיחשב בלתי חוקיות אם הן מעודדות משתמשים להיות תלויים רגשית.
חברות הנשענות במידה רבה על מעורבות רגשית עשויות להזדקק לשינוי כיוון מהיר. חלקן כבר החלו למתג מחדש את ההצעות שלהן ככלי פרודוקטיביות או בריאות נפשית, אף שהקו בין תמיכה לתלות נותר מטושטש. משקיעים עוקבים בדריכות: מימון הון סיכון לאפליקציות לווייניות AI בסין הסתכם בכ-150 מיליון דולר בשנת 2023, לפי נתוני PitchBook.
מעבר לכלי פרודוקטיביות
הרגולציה עלולה להסיט השקעות ליישומי AI המתמקדים ביעילות ובביצוע משימות במקום בקשר רגשי. ענקיות טכנולוגיה סיניות כמו Baidu ו-Alibaba כבר השיקו מודלי שפה גדולים המיועדים לשימוש ארגוני — טיפול בשירות לקוחות, עיבוד מסמכים ויצירת קוד. מפתחים קטנים יותר עשויים ללכת בעקבותיהן.
AI ממוקד פרודוקטיביות נתקל בפחות חסמים רגולטוריים ומתיישר עם הדחיפה הרחבה יותר של בייג'ינג לעצמאות טכנולוגית ושדרוג תעשייתי. הממשלה גם הביעה תמיכה ב-AI בחינוך ובבריאות, בתנאי שהוא לא יחליף אינטראקציה אנושית בתחומים רגישים.
מה הלאה
פרטי האכיפה נותרו לא ברורים. מינהל הסייבר לא ציין עונשים או תקופת חסד לציות. חברות המפעילות צ'אטבוטים רגשיים יצטרכו לבדוק את תנאי השירות שלהן ולשנות אלגוריתמים כדי להימנע מהפעלת האיסור. חלקן עשויות לערער על הכללים, אך בהתחשב באקלים הפוליטי, רובן צפויות לציית בשקט.
הרגולציה היא חלק מדפוס רחב יותר: סין מהדקת את השליטה על AI מאז 2021, ודורשת רישום אלגוריתמים וניטור תוכן. הצעד האחרון הזה מסמן שמניפולציה רגשית — אפילו על ידי מכונות — היא כעת קו אדום. כיצד סטארטאפים יתאימו עצמם, והאם האיסור ישנה בפועל את התנהגות המשתמשים, הן שאלות שיתבררו בחודשים הקרובים.
