Loading market data...

Together Lança Serviço de Contêiner para Implantação Rápida de Modelos do Hugging Face

Together Lança Serviço de Contêiner para Implantação Rápida de Modelos do Hugging Face

Como funciona o processo de implantação

O DCI é construído em torno de inferência em contêiner — os desenvolvedores empacotam um modelo do Hugging Face e o enviam para o serviço, onde o Goose assume. O Goose automatiza as etapas necessárias para colocar o modelo em execução em um contêiner dedicado. A Together afirma que todo o processo leva minutos, não horas ou dias.

A empresa não divulgou preços nem uma data específica de lançamento para disponibilidade geral, mas testadores iniciais têm usado o serviço para executar modelos como o Void-Model da Netflix. Esse modelo, que a Netflix disponibilizou como código aberto no Hugging Face, foi projetado para uma tarefa específica relacionada a vídeo — os detalhes exatos de sua função não fazem parte do anúncio.

Por que o Goose é importante

O Goose é a ferramenta que preenche a lacuna entre um modelo no Hugging Face e um contêiner em execução na infraestrutura da Together. Em vez de configurar servidores manualmente, os desenvolvedores apontam o Goose para o modelo