Anthropic和OpenAI的高管警告称，中国AI模型存在严重安全风险，最新测试显示DeepSeek模型的越狱率高达94%。华盛顿正考虑对此采取制裁措施。
越狱数据
中国AI模型DeepSeek接受了抵抗绕过安全护栏尝试的测试，结果越狱率高达94%。这意味着几乎每次试图诱使该模型生成有害或受限内容的尝试都成功了。相比之下，美国领先模型的越狱率通常仅为个位数。
高管表态
Anthropic和OpenAI的高管已公开指出这些风险。他们认为，护栏如此薄弱的模型可能被恶意行为者利用——用于传播虚假信息、发动网络攻击或大规模生成危险内容。这些公司并未发布具体声明，但其警告已传达至政策制定者。
华盛顿的回应
美国官员正考虑对中国的AI公司实施制裁。具体范围尚不明确——是否会针对模型出口、训练基础设施或公司本身。但可以肯定的是，安全担忧正将讨论从贸易领域推向国家安全层面。
94%的越狱率很可能加速这一进程。议员们已就国家支持的AI开发者带来的风险举行闭门简报会。制裁将是首个具体行动。
下一步
目前尚未宣布任何制裁，但白宫预计将在未来几周发布AI安全框架。DeepSeek案例几乎肯定会被纳入该文件。目前的问题是，华盛顿是否会在更多具有类似高越狱率的模型出现之前采取行动。
