AI聊天机器人正在无意中传播俄罗斯的宣传和虚假信息，这一发展凸显了大型语言模型易受操纵的脆弱性。该问题引发了加强数据审计和明确监管框架的呼声，以防止这些系统成为外国影响活动的载体。
宣传如何传播
这些聊天机器人基于从互联网抓取的海量数据集生成回复，可能会再现其训练材料中嵌入的虚假叙事。包括国家赞助媒体和协调性虚假信息活动在内的俄罗斯相关内容，已被发现出现在聊天机器人的回复中。由于模型缺乏实时事实核查，且无法区分真实与捏造的信息源，它们可能无意中放大克里姆林宫在乌克兰战争、选举干预等话题上的论调。
这并非假设性风险。研究人员已记录到聊天机器人生成与已知俄罗斯虚假信息主题相呼应的回复的实例。该问题跨越多个平台和聊天机器人提供商，表明这些模型在训练和部署方式上存在系统性缺陷。
数据审计作为第一步
最直接的补救措施之一在于严格的数据审计。聊天机器人开发者依赖庞大的文本语料库，这些语料库很少经过针对国家赞助宣传的清洗。缺乏系统性检查，有害内容便会漏网。审计工具可以识别并过滤已知的虚假信息来源，但它们尚未成为行业标准做法。缺乏此类保障意味着宣传从一开始就可能被嵌入模型的知识库中。
挑战在于规模。用于训练聊天机器人的数据集可能包含数十亿份文档。在如此庞大的噪声中识别每一则俄罗斯宣传，需要自动化过滤器和人工审核——这是一项资源密集型任务，许多公司不愿投入资金。然而，不作为的后果显而易见：每一处未被发现的虚假信息都可能被重复呈现给用户数千次。
监管框架滞后
现行法律法规难以应对AI驱动的虚假信息。在美国，没有联邦法规专门规定聊天机器人应如何处理宣传。欧盟的《人工智能法案》将施加一些透明度要求，但尚未生效。其他地区的保障措施更少。这种监管真空使公众暴露于被操纵的内容之下，且几乎没有追索途径。
主张加强监管的人士认为，政府应强制要求数据溯源标准——要求公司披露其训练数据的来源以及过滤方式。一些人提议建立独立的审计机构，在聊天机器人发布前测试其对虚假信息的敏感性。但这些想法仍停留在提案阶段，尚未成为政策。
通过AI聊天机器人传播宣传并非一个快速补丁就能修复的漏洞。它反映了数据收集、整理和治理方面的更深层次问题。如果没有系统性变革——包括强制性审计和可执行的规则——随着聊天机器人日益融入日常生活，问题可能会进一步加剧。
尚未解决的是谁将迈出第一步。目前，公司可以自愿采取行动，但自我监管的记录好坏参半。监管机构仍在研究这一问题。然而，随着每一次新聊天机器人的部署，采取行动的时间窗口正在缩小。
