Moonshot AI випустила Kimi K3, модель штучного інтелекту з відкритою вагою, що має 2,7 трильйона параметрів. Компанія стверджує, що це найбільша модель з відкритою вагою, яка коли-небудь була оприлюднена.
Що означає «відкрита вага»
Моделі з відкритою вагою випускають навчені параметри, які будь-хто може завантажити та використовувати. Це відрізняється від закритих моделей, які зберігають ваги в приватному доступі та пропонують лише доступ через API. Дослідники та розробники можуть запускати Kimi K3 на власних серверах, доналаштовувати її для конкретних завдань або вивчати її внутрішню поведінку.
Масштаб моделі
2,7 трильйона параметрів — це величезний розмір. Жодна інша модель з відкритою вагою не досягала такого масштабу. Кількість параметрів є ключовим показником потужності моделі ШІ. Більші моделі можуть виконувати складніші завдання, але також потребують значних обчислювальних ресурсів для роботи. Ймовірно, модель використовуватимуть організації, які мають доступ до великих кластерів графічних процесорів.
Moonshot AI не оприлюднила результати тестувань або деталі щодо навчальних даних для Kimi K3. Анонс зосередився на розмірі моделі та її відкритій вазі. Модель доступна для завантаження на веб-сайті компанії. Дослідники тепер можуть отримати до неї доступ і почати експериментувати з її можливостями.
