Marvell 展示了一款光子模块,可将 AI 内存放置在距离 GPU 50 米远的位置,随着 AI 工作负载日益严苛,这一距离可能重塑数据中心的布局方式。该公司表示,这项技术有望为 AI 基础设施实现可扩展的内存解决方案,并可能提升处理效率。
为何移动内存很重要
AI 模型的规模已增长到使传统服务器设计的物理极限承压。内存通常紧挨着 GPU 放置,因为电链路会随距离衰减并消耗功率。Marvell 的演示表明,光子学——用光代替电信号——可以在 50 米跨度内于 GPU 和内存之间传输数据,而不会产生铜缆带来的损耗。这种分离可以让系统设计者在扩展内存容量时拥有更多空间,使其独立于计算封装。
Marvell 实际展示了什么
演示的核心是一个光子模块,而非完整的生产系统。Marvell 尚未披露带宽、延迟或功耗数据,而这些数据将决定该方法在数据中心规模下是否可行。这些正是硬件工程师在将光学内存链路视为设计选项之前想要看到的数字。该公司对该模块的描述是前瞻性的:它“潜在地”实现可扩展内存,并“潜在地”提升效率。Marvell 尚未说明该技术何时可能交付客户。
效率问题
将内存移离 GPU 只有在光链路不吞噬收益的情况下才有帮助。光连接可以减少远距离驱动信号所消耗的能量,但它们增加了组件——收发器、调制器以及光子模块本身——这些组件消耗功率并增加成本。Marvell 关于提升 AI 处理效率的说法,建立在权衡对系统有利这一想法之上。在没有公布基准测试的情况下,这仍然是一种主张,而非实测结果。
下一步是什么
Marvell 的演示向 AI 基础设施市场发出信号:光学内存链路正被认真对待,但这只是早期一步。下一个里程碑将是详细的性能数据和更清晰的产品化时间表。在那之前,50 米这一数字仍是一个概念验证——如果它在真实系统中成立,这一距离将为数据中心架构师提供一种思考内存位置的新方式。




