Moonshot AIは、2.7兆パラメータを持つオープンウェイトAIモデル「Kimi K3」を公開した。同社によると、これはこれまで公開された中で最大のオープンウェイトモデルである。
オープンウェイトとは
オープンウェイトモデルは、学習済みのパラメータを誰でもダウンロードして使用できるように公開する。これは、重みを非公開にし、API経由でのみアクセスを提供するクローズドモデルとは異なる。研究者や開発者は、Kimi K3を自社のサーバーで実行し、特定のタスクにファインチューニングしたり、内部動作を研究したりできる。
モデルの規模
2.7兆パラメータは非常に大きな規模である。他のオープンウェイトモデルでこの規模に達したものはない。パラメータ数はAIモデルの容量を示す重要な指標である。大規模なモデルはより複雑なタスクを処理できるが、実行には多大な計算リソースが必要となる。このモデルは、大規模なGPUクラスターにアクセスできる組織によって使用されるだろう。
Moonshot AIは、Kimi K3のベンチマーク結果やトレーニングデータの詳細を公開していない。発表はモデルの規模とオープンウェイトの性質に焦点を当てたものだった。モデルは同社のウェブサイトからダウンロード可能である。研究者は今すぐアクセスして、その能力を試すことができる。
