Firma Moonshot AI udostępniła Kimi K3, model AI o otwartych wagach z 2,7 biliona parametrów. Według firmy jest to największy model o otwartych wagach, jaki kiedykolwiek został upubliczniony.
Co oznaczają otwarte wagi
Modele o otwartych wagach udostępniają wytrenowane parametry do pobrania i użytku przez każdego. Różni się to od modeli zamkniętych, które przechowują wagi prywatnie i oferują dostęp wyłącznie przez API. Naukowcy i programiści mogą uruchomić Kimi K3 na własnych serwerach, dostroić go do konkretnych zadań lub badać jego wewnętrzne działanie.
Skala modelu
2,7 biliona parametrów to ogromny rozmiar. Żaden inny model o otwartych wagach nie osiągnął tej skali. Liczba parametrów jest kluczowym wskaźnikiem pojemności modelu AI. Większe modele mogą radzić sobie z bardziej złożonymi zadaniami, ale wymagają też znacznych zasobów obliczeniowych do działania. Model prawdopodobnie będzie używany przez organizacje posiadające dostęp do dużych klastrów procesorów graficznych (GPU).
Moonshot AI nie udostępniło wyników testów ani szczegółów dotyczących danych treningowych dla Kimi K3. Ogłoszenie skupiało się na rozmiarze modelu i jego otwartym charakterze. Model jest dostępny do pobrania ze strony internetowej firmy. Naukowcy mogą już uzyskać do niego dostęp i rozpocząć eksperymenty z jego możliwościami.
