Anyscale heeft een nieuwe tool uitgebracht die is ontworpen om de post-trainingsfase voor grote taalmodellen te stroomlijnen, door taken zoals methodologiekeuze, GPU-planning en configuratiegeneratie te automatiseren. Het bedrijf zegt dat het hiermee wil vereenvoudigen wat een complex en resource-intensief onderdeel is geworden van het in productie nemen van LLM's.
Wat de tool automatiseert
De tool richt zich op het fine-tuningproces, waarbij ingenieurs normaal gesproken handmatig moeten kiezen tussen benaderingen zoals volledige finetuning, LoRA of QLoRA, en vervolgens de juiste GPU-opstelling en hyperparameters moeten bepalen. Het systeem van Anyscale neemt die beslissingen over en genereert een configuratie die past bij het model en de hardwarebeperkingen van de gebruiker. Het bedrijf beweert dat dit de trial-and-error-tijd kan verkorten en het risico op verkeerd geconfigureerde runs kan verminderen.
Waarom post-training nu belangrijk is
Nu organisaties overstappen van experimenteren met LLM's naar daadwerkelijke implementatie, is finetuning een knelpunt geworden. Kant-en-klare modellen hebben vaak aanpassingen nodig voor specifieke domeinen of taken, maar het proces vereist gespecialiseerde kennis en leidt vaak tot verspilling van GPU-cycli. De tool van Anyscale pakt dit aan door post-training te behandelen als een geautomatiseerde pijplijn in plaats van een reeks handmatige stappen.
GPU-planning ingebouwd
Een belangrijk onderdeel van de tool is de mogelijkheid om GPU-gebruik te plannen. Het schat het geheugen en de rekenkracht in die nodig zijn voor een bepaald model en fine-tuningmethode, en stelt vervolgens een geschikt aantal en type GPU's voor. Dat kan teams helpen om overdimensionering te voorkomen of halverwege zonder geheugen te komen te zitten. Anyscale positioneert dit als een praktische oplossing voor teams die modellen moeten finetunen zonder een heel team van ML-ingenieurs aan de taak te wijden.
Beschikbaarheid van de release
De tool is nu beschikbaar als onderdeel van het platform van Anyscale. Gebruikers kunnen het testen op de infrastructuur van het bedrijf. Het is nog onduidelijk hoe de tool omgaat met zeer grote modellen of exotische hardware-opstellingen, en Anyscale heeft nog geen benchmarkvergelijkingen gepubliceerd met handmatige fine-tuningworkflows. Het bedrijf zegt de tool te zullen blijven updaten op basis van gebruikersfeedback.
