Mysten Labs 联合创始人 Sam Blackshear 已加入 Anthropic，从事防御性安全研究。这一变动已得到公司确认，将一位区块链基础设施领域的资深人士带入 AI 安全领域。
Blackshear 将负责的工作
在 Anthropic，Blackshear 将专注于防御性安全——网络安全中旨在保护系统而非寻找漏洞的一面。该职位隶属于公司的安全研究团队，该团队致力于让大型语言模型更难被滥用或攻击。
Blackshear 是 Mysten Labs 的关键人物，该公司是 Sui 区块链的开发者。他帮助设计了 Move 编程语言，该语言强调智能合约的安全性和可验证性。这种构建安全设计系统的背景很可能引起了 Anthropic 的关注。
此次变动为何重要
Anthropic 一直在招聘具有深厚技术背景的研究人员，以扩大其安全工作的规模。该公司的旗舰模型 Claude 围绕有用性和无害性原则构建。加入一位多年来一直思考如何让区块链代码更不易受攻击的人，表明 Anthropic 正在寻求超越传统 AI 安全方法。
Anthropic 的防御性安全研究可能涉及强化模型以抵御对抗性攻击、防止数据泄露，或建立护栏以阻止模型被以有害方式使用。Blackshear 在形式验证和安全编程语言方面的经验与这一议程相契合。
Mysten Labs 尚未立即回应关于 Blackshear 离职或谁将接替其职责的置评请求。
Blackshear 预计将在未来几周内开始在 Anthropic 工作。公司尚未说明他将领导团队还是作为个人贡献者工作。他的聘用是 AI 实验室更广泛努力的一部分，旨在引进来自区块链和密码学等相邻领域的工程师，这些领域将安全视为首要关注点。
