速度のためのチップ
推論とは、モデルのトレーニング後に、実際にリクエストを処理して応答を生成するAIの部分である。多くのアプリケーションにおいて、その速度は、レスポンスが速いと感じられるツールと遅いと感じられるツールの違いを生む。Groq 3 LPXは、そのスペクトラムの最上位、つまり1ミリ秒単位が重要となる領域をターゲットにしている。
本格生産とは、設計が最終確定し、ユニットが大規模に製造されていることを意味する。これにより、チップはテスト段階から、顧客が実際に注文できる段階へと移行する。NVIDIAは、Groq 3 LPXを搭載したシステムの出荷時期や、最初に採用するデータセンターパートナーについては明らかにしていない。
