كيف تنتشر الدعاية
روبوتات المحادثة، التي تولد ردودًا بناءً على مجموعات بيانات ضخمة مأخوذة من الإنترنت، يمكنها إعادة إنتاج الروايات الكاذبة المضمنة في مواد تدريبها. وقد تبين أن المحتوى المرتبط بروسيا، بما في ذلك وسائل الإعلام الممولة من الدولة وحملات التضليل المنسقة، يظهر في ردود روبوتات المحادثة. ولأن النماذج تفتقر إلى التحقق من الحقائق في الوقت الفعلي ولا يمكنها التمييز بين المصادر الصادقة والمفبركة، فإنها قد تضخم عن غير قصد نقاط الحديث الكرملينية حول مواضيع تتراوح من الحرب في أوكرانيا إلى التدخل في الانتخابات.
هذا ليس خطرًا افتراضيًا. فقد وثق الباحثون حالات أنتجت فيها روبوتات المحادثة ردودًا تعكس موضوعات التضليل الروسي المعروفة. وتمتد المشكلة عبر منصات متعددة ومزودي روبوتات المحادثة، مما يشير إلى خلل منهجي في كيفية تدريب هذه النماذج ونشرها.
تدقيق البيانات كخطوة أولى
يكمن أحد أكثر الحلول فورية في تدقيق البيانات الصارم. يعتمد مطورو روبوتات المحادثة على نصوص ضخمة نادرًا ما يتم تنظيفها من الدعاية المرتبطة بالدولة. وبدون فحوصات منهجية، يتسرب المحتوى الضار. يمكن لأدوات التدقيق تحديد مصادر التضليل المعروفة وتصفيتها، لكنها ليست ممارسة قياسية بعد في الصناعة. يعني غياب هذه الضمانات أن الدعاية يمكن أن تُدمج في قاعدة معرفة النموذج منذ البداية.
التحدي هو الحجم. مجموعات البيانات المستخدمة لتدريب روبوتات المحادثة يمكن أن تحتوي على مليارات المستندات. يتطلب تحديد كل قطعة من الدعاية الروسية وسط تلك الضوضاء مرشحات آلية ومراجعة بشرية — وهي مهمة كثيفة الموارد تتردد العديد من الشركات في تمويلها. ومع ذلك، فإن عواقب عدم التحرك واضحة: كل قطعة غير مكتشفة من الكذب يمكن إعادة إخراجها للمستخدمين آلاف المرات.
الأطر التنظيمية متخلفة
القوانين واللوائح الحالية غير مجهزة للتعامل مع التضليل driven by AI. في الولايات المتحدة، لا يوجد قانون فيدرالي يعالج تحديدًا كيفية تعامل روبوتات المحادثة مع الدعاية. قانون الذكاء الاصطناعي للاتحاد الأوروبي (European Union's AI Act) سيفرض بعض متطلبات الشفافية، لكنه لم يدخل حيز التنفيذ بعد. المناطق الأخرى لديها حواجز أقل. هذا الفراغ التنظيمي يترك الجمهور عرضة للمحتوى المتلاعب به مع القليل من وسائل الانتصاف.
يدعو المدافعون عن الرقابة الأقوى إلى أن تفرض الحكومات معايير إثبات مصدر البيانات — مما يتطلب من الشركات الكشف عن مصدر بيانات تدريبها وكيفية تصفيتها. البعض اقترح إنشاء هيئات تدقيق مستقلة يمكنها اختبار روبوتات المحادثة لمعرفة قابليتها للتضليل قبل إطلاقها. لكن هذه الأفكار لا تزال مقترحات، وليست سياسات.
انتشار الدعاية عبر روبوتات المحادثة الذكية ليس خللًا يمكن إصلاحه بتصحيح سريع. إنه يعكس قضايا أعمق في كيفية جمع البيانات وتنظيمها وإدارتها. بدون تغييرات منهجية — بما في ذلك التدقيق الإلزامي وقواعد قابلة للتنفيذ — من المرجح أن تتفاقم المشكلة مع اندماج روبوتات المحادثة بشكل أكبر في الحياة اليومية.
ما يظل غير محسوم هو من سيتخذ الخطوة الأولى. يمكن للشركات أن تتصرف طواعية، لكن سجل التنظيم الذاتي مختلط. المنظمون ما زالوا يدرسون المشكلة. لكن نافذة
