中国已禁止人工智能聊天机器人使用户产生情感依赖，此举正值该国面临人口下降之际。这项由国家互联网信息办公室发布的法规，针对的是模拟陪伴或鼓励长期情感依恋的对话式AI系统。
为何现在出台禁令
该政策出台的背景是中国出生率下降和人口老龄化。官员们担心，具有情感互动功能的聊天机器人可能进一步减少社交互动和家庭组建。禁令旨在防止AI成为人际关系的替代品，尤其是针对那些可能转向虚拟伴侣而非建立现实联系的年轻用户。
2023年，中国人口连续第二年下降，出生人数降至902万，为20世纪40年代以来的最低水平。政府一直在推行鼓励结婚和生育的政策，包括经济激励和延长育儿假。这项新AI规则是这一更广泛努力的一部分。
初创公司面临冲击
多家中国初创公司已围绕情感AI打造产品——这些聊天机器人被设计成朋友、恋人或治疗师。这些服务通常使用个性化语言和记忆功能来营造亲密感。根据新规，如果此类功能鼓励用户产生情感依赖，可能被视为非法。
严重依赖情感互动的公司可能需要迅速转型。一些公司已开始将其产品重新定位为生产力或心理健康工具，尽管支持与依赖之间的界限仍然模糊。投资者正密切关注：根据PitchBook的数据，2023年中国AI伴侣应用的创业融资总额约为1.5亿美元。
转向生产力工具
该法规可能将投资引向专注于效率和任务完成的AI应用，而非情感纽带。百度、阿里巴巴等中国科技巨头已推出面向企业使用的大型语言模型——用于客户服务、文档处理和代码生成。较小的开发者可能也会效仿。
以生产力为导向的AI面临的监管障碍较少，并且符合北京推动技术自主和产业升级的更广泛目标。政府还表示支持AI应用于教育和医疗领域，前提是它不取代敏感领域的人际互动。
接下来会发生什么
执法细节仍不明确。国家互联网信息办公室尚未明确处罚措施或合规宽限期。运营情感聊天机器人的公司将需要审查其服务条款并修改算法以避免触发禁令。一些公司可能会挑战这些规定，但鉴于政治环境，预计大多数公司将低调遵守。
这项法规是更广泛模式的一部分：自2021年以来，中国一直在加强对AI的管控，要求算法注册和内容审核。最新举措表明，情感操纵——即使是机器所为——现在已成为一条红线。初创公司将如何适应，以及禁令是否真的会改变用户行为，这些问题将在未来几个月内揭晓。
