प्रचार कैसे फैलता है
चैटबॉट, जो इंटरनेट से एकत्रित विशाल डेटासेट के आधार पर प्रतिक्रियाएं उत्पन्न करते हैं, अपने प्रशिक्षण सामग्री में शामिल झूठी कथाओं को पुन: प्रस्तुत कर सकते हैं। रूसी-संबंधित सामग्री, जिसमें राज्य-प्रायोजित मीडिया और समन्वित दुष्प्रचार अभियान शामिल हैं, चैटबॉट उत्तरों में सामने आती पाई गई है। चूंकि मॉडलों में वास्तविक समय की तथ्य-जांच का अभाव है और वे सत्यापित और निर्मित स्रोतों के बीच अंतर नहीं कर सकते, वे अनजाने में यूक्रेन युद्ध से लेकर चुनावी हस्तक्षेप तक के विषयों पर क्रेमलिन के तर्कों को बढ़ा सकते हैं।
यह कोई काल्पनिक जोखिम नहीं है। शोधकर्ताओं ने ऐसे उदाहरण दर्ज किए हैं जहां चैटबॉट ने ऐसी प्रतिक्रियाएं उत्पन्न कीं जो ज्ञात रूसी दुष्प्रचार विषयों को प्रतिबिंबित करती थीं। यह समस्या कई प्लेटफार्मों और चैटबॉट प्रदाताओं में फैली हुई है, जो इन मॉडलों के प्रशिक्षण और तैनाती में एक प्रणालीगत खामी का सुझाव देती है।
डेटा ऑडिटिंग पहला कदम
सबसे तत्काल उपायों में से एक कठोर डेटा ऑडिटिंग में निहित है। चैटबॉट डेवलपर्स विशाल पाठ कोष पर निर्भर करते हैं जिन्हें शायद ही कभी राज्य-संबंधित प्रचार के लिए साफ किया जाता है। व्यवस्थित जांच के बिना, हानिकारक सामग्री फिसल जाती है। ऑडिटिंग उपकरण ज्ञात दुष्प्रचार स्रोतों की पहचान और फ़िल्टर कर सकते हैं, लेकिन वे अभी तक उद्योग में मानक अभ्यास नहीं हैं। ऐसे सुरक्षा उपायों की अनुपस्थिति का मतलब है कि प्रचार शुरू से ही मॉडल के ज्ञान आधार में शामिल हो सकता है।
चुनौती पैमाने की है। चैटबॉट को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटासेट में अरबों दस्तावेज़ हो सकते हैं। उस शोर के बीच रूसी प्रचार के हर टुकड़े की पहचान करने के लिए स्वचालित फ़िल्टर और मानव समीक्षा की आवश्यकता होती है — यह एक संसाधन-गहन कार्य है जिसे कई कंपनियां वित्तपोषित करने में अनिच्छुक हैं। फिर भी, निष्क्रियता के परिणाम स्पष्ट हैं: असत्य का हर
