Moonshot AIは、2.8兆パラメータのオープンウェイトモデル「Kimi K3」をリリースした。このモデルは、Nvidia H100 GPU向けのCUDAカーネルを、標準的なPyTorchよりも14.82倍高速に生成する。この性能の飛躍は、米国のトップAI研究所に直接挑戦状を突きつけ、すでに激化している米中の人工知能競争をさらに深めるものだ。
高速化の意味
PyTorchに対する14.82倍の改善は、合成ベンチマークではなく、実際のカーネル生成速度である。つまり、Kimi K3は広く使われているPyTorchフレームワークよりもはるかに高速に低レベルのGPUコードを記述・最適化できる。H100クラスターで大規模なトレーニングや推論を実行する開発者にとって、この差は待ち時間の大幅な短縮と計算コストの削減につながる。Moonshot AIはこのモデルをオープンウェイトとしているため、社外の研究者もアーキテクチャを調査し、適応させることができる。
Kimi K3の登場は、ワシントンが中国への先端チップ輸出規制を強化する中で行われた。OpenAI、Google DeepMind、Metaなどの米国研究所は、長い間大規模言語モデルとGPU最適化の最前線を支配してきた。Moonshot AIのモデルは、規制があるにもかかわらず中国企業がハードウェアの性能を押し上げられることを示している。2.8兆パラメータという規模は、Kimi K3をこれまでにリリースされた最大のオープンウェイトモデルの一つに位置づけ、米国リーダーのクローズドモデルに匹敵する。
オープンウェイトの要素
Kimi K3をオープンウェイトにすることで、Moonshot AIは世界中の開発者にその成果を基に構築するよう促している。これにより中国などでの採用が加速する可能性がある一方、米国企業は通常、最先端モデルをプロプライエタリに保っている。この動きは、米国の研究所に対しても、自社モデルを公開するか、サードパーティによる最適化のエコシステムで遅れをとるリスクを迫るものだ。NvidiaのCUDAプラットフォームは依然として支配的なGPUプログラミング環境だが、PyTorchよりも高速にCUDAカーネルを記述するモデルが登場すれば、開発者がパフォーマンスチューニングに取り組む方法が変わる可能性がある。
Moonshot AIは、Kimi K3のトレーニングコストや使用した正確なハードウェアを開示していない。また、モデルがアップデートされるかどうか、Nvidiaの次世代Blackwellアーキテクチャ向けに最適化されたバージョンをリリースする予定があるかについても明らかにしていない。現時点ではモデルはダウンロード可能であり、数週間以内に独立したベンチマーク結果が発表される見込みである。
