Together AI har udgivet Dedicated Container Inference (DCI), en tjeneste, der giver udviklere mulighed for at implementere enhver model fra Hugging Face på få minutter. Tjenesten bruger et værktøj kaldet Goose til at håndtere implementeringsprocessen, og Netflix' Void-Model fremhæves som et eksempel på, hvad der kan implementeres.
Sådan fungerer implementeringsprocessen
DCI er bygget op omkring containeriseret inferens – udviklere pakker en Hugging Face-model og sender den til tjenesten, hvor Goose overtager. Goose automatiserer de trin, der er nødvend
