A Moonshot AI lançou o Kimi K3, um modelo de IA de pesos abertos com 2,7 trilhões de parâmetros. A empresa afirma que é o maior modelo de pesos abertos já tornado público.
O que significa pesos abertos
Modelos de pesos abertos liberam os parâmetros treinados para que qualquer pessoa possa baixá-los e usá-los. Isso é diferente dos modelos fechados, que mantêm os pesos privados e oferecem acesso apenas por meio de uma API. Pesquisadores e desenvolvedores podem executar o Kimi K3 em seus próprios servidores, ajustá-lo para tarefas específicas ou estudar seu comportamento interno.
Escala do modelo
2,7 trilhões de parâmetros é um tamanho massivo. Nenhum outro modelo de pesos abertos atingiu essa escala. A contagem de parâmetros é uma métrica chave para a capacidade do modelo de IA. Modelos maiores podem lidar com tarefas mais complexas, mas também exigem recursos computacionais significativos para serem executados. O modelo provavelmente será usado por organizações com acesso a grandes clusters de GPUs.
A Moonshot AI não compartilhou resultados de benchmarks ou detalhes sobre os dados de treinamento do Kimi K3. O anúncio focou no tamanho do modelo e na sua natureza de pesos abertos. O modelo está disponível para download no site da empresa. Pesquisadores agora podem acessá-lo e começar a experimentar suas capacidades.
