Marvellは、AIメモリをGPUから50メートル離れた場所に配置できるフォトニックモジュールを実演した。この距離は、AIワークロードがより厳しくなる中でデータセンターのレイアウトを再形成する可能性がある。同社は、この技術がAIインフラ向けのスケーラブルなメモリソリューションを可能にし、処理効率を向上させる可能性があると述べている。
メモリを移動させることが重要な理由
AIモデルは、従来のサーバー設計の物理的限界を圧迫するサイズにまで成長している。電気リンクは距離とともに劣化し、電力を消費するため、メモリは通常GPUの近くに詰め込まれる。Marvellのデモは、電気信号の代わりに光を用いるフォトニクスが、銅配線によるペナルティなしに50メートルの範囲でGPUとメモリ間のデータ伝送を可能にすることを示唆している。この分離により、システム設計者はコンピュートパッケージとは独立してメモリ容量を拡張する余地を得られる可能性がある。
Marvellが実際に示したもの
デモの中心はフォトニックモジュールであり、完全な量産システムではない。Marvellは、このアプローチがデータセンター規模で実用的かどうかを決める帯域幅、レイテンシ、電力の数値を開示していない。これらは、ハードウェアエンジニアが光メモリリンクを設計選択肢として扱う前に求める数値である。同社のモジュールに関する説明は将来を見据えたもので、スケーラブルなメモリを「潜在的に」可能にし、効率を「潜在的に」高めるとしている。Marvellは、この技術がいつ顧客に届くかについては述べていない。
効率性の課題
メモリをGPUから離すことが役立つのは、光リンクがその利得を食い潰さない場合に限られる。光接続は距離を越えて信号を駆動するためのエネルギーを削減できるが、トランシーバー、変調器、フォトニックモジュール自体など、電力を消費しコストを増やすコンポーネントを追加する。AI処理効率の向上というMarvellの主張は、このトレードオフがシステムにとって有利に働くという考えに基づいている。公開されたベンチマークがないため、それは測定結果ではなく主張にとどまる。
次に来るもの
Marvellのデモは、光メモリリンクが真剣に検討されていることをAIインフラ市場に示すシグナルだが、初期段階の一歩にすぎない。次のマイルストーンは、詳細な性能データと製品化に向けたより明確なタイムラインだろう。それまでは、50メートルという数字は概念実証として位置づけられる。もし実際のシステムで維持されれば、データセンター設計者にメモリをどこに置くかについて新しい考え方を与える距離である。
