Компания Moonshot AI выпустила Kimi K3 — модель ИИ с открытым весом, содержащую 2,7 триллиона параметров. Это крупнейшая модель с открытым весом из когда-либо опубликованных.
Что означает открытый вес
Модели с открытым весом предоставляют обученные параметры для скачивания и использования любым желающим. Это отличается от закрытых моделей, которые держат веса в секрете и предоставляют доступ только через API. Исследователи и разработчики могут запускать Kimi K3 на собственных серверах, донастраивать её для конкретных задач и изучать её внутреннее устройство.
Масштаб модели
2,7 триллиона параметров — это огромный размер. Ни одна другая модель с открытым весом не достигала такого масштаба. Количество параметров является ключевым показателем ёмкости модели ИИ. Более крупные модели могут справляться с более сложными задачами, но для их работы требуются значительные вычислительные ресурсы. Вероятно, модель будет использоваться организациями, имеющими доступ к большим кластерам GPU.
Moonshot AI не опубликовала результаты бенчмарков или подробности об обучающих данных для Kimi K3. Анонс был сосредоточен на размере модели и её открытом весе. Модель доступна для скачивания на сайте компании. Исследователи могут получить к ней доступ и начать эксперименты.
