2つの新しいハードウェアプラットフォームが、1兆パラメータのAIモデルが要求する膨大な計算需要に挑戦している。NVIDIAのVera RubinプラットフォームとGroqの3 LPXアーキテクチャは、それぞれが組み合わさることで35倍の効率向上を実現すると各社は主張する。この発表は、開発者が現在のインフラでは安価に処理できない規模のモデルサイズを追求しているタイミングで行われた。
スケールアップの問題
1兆パラメータのモデルを訓練するには、巨大なメモリ帯域幅と相互接続速度が必要となる。現在のシステムでは、しばしばボトルネックが発生し、訓練作業が数カ月に及ぶプロジェクトになる。Vera RubinプラットフォームとGroq 3 LPXは、それぞれその方程式の異なる部分を解決するように設計されている。NVIDIAのアプローチは高密度な計算クラスターに焦点を当て、一方GroqのLPXラインは決定論的な低レイテンシ実行をターゲットとしている。これら2つを組み合わせることで、エネルギー消費と訓練時間を35分の1に削減できるとしている。
35倍の数字の意味
この効率値は単一のベンチマークではなく、チップアーキテクチャからデータ移動に至るシステム全体の改善の予測である。1兆パラメータのモデルであれば、35倍の向上により、1年かかる訓練サイクルが数週間に短縮される可能性がある。両社ともまだ独立したテスト結果を公開していないが、無駄なサイクルやメモリトラフィックを削減するアーキテクチャ上の選択を挙げている。Vera Rubinプラットフォームは新しい相互接続ファブリックを使用し、Groq 3 LPXは従来のキャッシュオーバーヘッドを回避する決定論的実行モデルに依存している。
タイミングの重要性
この動きは、大規模言語モデルやマルチモーダルAIシステムが日常的に1000億パラメータの壁を超える中で進んでいる。1兆パラメータのモデルは次のフロンティアと広く見なされているが、その実用的な展開はコストによって停滞している。ハードウェアメーカーは、それらのモデルを経済的に実現可能にするソリューションを提供するために競争している。NVIDIAとGroqは異なる角度から同じ問題に取り組んでおり、35倍という主張は両社にとっての目標を示すものだ。
両社ともVera RubinプラットフォームとGroq 3 LPXの一般的な提供開始日を発表していない。ベータシステムは今年後半に一部のパートナーに提供される見込みである。本当の試練は、独立した研究所やクラウドプロバイダーが実際の1兆パラメータのワークロードでハードウェアをテストしたときに訪れる。それまでは、35倍という数字は証明を待つ約束に過ぎない。
