Loading market data...

盖茨警告:AI滥用的现实威胁远甚于失控机器

盖茨警告:AI滥用的现实威胁远甚于失控机器

比尔·盖茨表示,当前真正的AI威胁并非机器挣脱束缚,而是人们已经在利用这项技术造成伤害,而可能阻止他们的防护措施可以在几分钟内被剥离。在CNN《国情咨文》节目中接受杰克·塔珀采访时,盖茨认为“终结者”场景还远在数年之后,并指出了一个更紧迫的问题:在阻止AI助长的生物恐怖主义和网络攻击方面做得还不够。

盖茨描述了一种看似稳固的安全设置,直到有人决定将其拆除。他说,开发者内置了针对网络攻击和生物武器的防护措施,但这些防护现在就可以被全部移除。技术上的可能性和实际执行之间的差距,正是他眼中危险集中的地方。

未来一年:网络攻击成为焦点

盖茨预计,未来十二个月内,AI滥用将在网络攻击中最为显著地显现。他勾勒了一种对任何关注勒索软件或市场操纵的人来说都已熟悉的商业模式:威胁目标并索要付款,或制造足够的混乱来推动股价或影响赌注。AI使这两种模式的运营成本更低,也更难追踪。

这一预测与安全研究人员一直在追踪的情况相符。8月,OpenAI发布了一封关于网络防御的公开信,有100多个组织签署。信中表示,AI助长的网络攻击将在未来几个月变得更加普遍和复杂。这不是对遥远未来的预测——而是对当前轨迹的警告。

来自一线的数据

过去一年的几个数据点表明,盖茨所描述的滥用已经在进行中。台湾安全公司TeamT5发现,与中国政府有关联的团体在将日常工作交给AI后,攻击量翻了一番。Chainalysis追踪到,在2025年中期,对恶意代码没有限制的开放权重中文模型出现后,链上编写的恶意软件指令激增了440%。CrowdStrike将几起韩国银行泄露事件与一名可能出于经济动机、使用AI工具的攻击者联系起来。

这些事件都不需要AI超越其创造者的智慧。它们需要的只是AI更快、更大规模地完成苦力工作。这正是盖茨所描述的模式:普通犯罪分子和国家行为者获得了效率提升,而不是某种新形式的数字生命决定叛变。

为何防护措施不断失效

用盖茨的话说,问题不在于安全措施不存在。而在于它们是自愿的、可修补的,或者干脆可以移除。今天拒绝帮助制造生物武器的模型,明天就可能被微调或越狱。开放权重的发布使这更加容易——一旦权重公开,就没有终止开关。

这留下了监管真空。盖茨在采访中没有提出具体的政策方案,但他强调“现在就可以被剥离”这一点,指向了立法机构和标准制定机构中已经在进行的辩论:是否对能够从事危险工作的模型强制实施硬编码限制、审计追踪或 licensing。

目前,这些防护措施更像是减速带而非高墙。而盖茨所担心的人已经想出了如何绕过它们。

值得关注

下一个具体考验来自公开信的签署方,他们承诺跟踪并报告AI助长的攻击趋势。他们的首次公开更新预计将在未来几个月内发布。在那之前,最清晰的信号将是链上恶意软件440%的激增是否会继续攀升——或者防御者是否能找到让这些防护措施真正生效的方法。