SkyPilot, una startup fondata da Ion Stoica, co-fondatore di Databricks, ha ottenuto 20 milioni di dollari di finanziamento per affrontare un problema crescente nel settore dell'IA: la complessità di eseguire carichi di lavoro computazionalmente intensivi su più cloud provider. La piattaforma è progettata per eliminare il vendor lock-in, diventato un costo significativo per molte organizzazioni, soprattutto con l'aumento dei prezzi delle GPU.
Perché il finanziamento è importante
Il round di finanziamento, annunciato questa settimana, arriva mentre le aziende di IA si trovano sempre più spesso vincolate a un singolo cloud provider, affrontando spesso forti aumenti di prezzo per la capacità GPU. Il software di SkyPilot consente ai team di distribuire i job su Amazon Web Services, Google Cloud o Microsoft Azure — o qualsiasi combinazione — senza dover riscrivere il codice o riconfigurare manualmente l'infrastruttura. L'idea è offrire flessibilità per cercare potenza di calcolo più economica o sfruttare capacità in eccesso quando necessario.
Stoica, che ha anche co-fondato il progetto Apache Spark e il framework Ray, ha dichiarato in una nota che il settore si sta muovendo verso una realtà multi-cloud. “I carichi di lavoro IA sono troppo diversificati e troppo costosi per essere vincolati a un unico fornitore”, ha affermato. “SkyPilot offre ai team la libertà di scegliere dove eseguire i loro modelli, in base a costi, disponibilità e prestazioni.”
Come funziona la piattaforma
SkyPilot funge da livello di orchestrazione. Invece di configurare manualmente un cluster su un singolo cloud, la piattaforma sceglie la posizione migliore — tra più cloud — per eseguire un job. Gestisce provisioning, auto-scaling e pulizia. Lo strumento è open source, ma l'azienda offre una versione gestita per le imprese che desiderano un'esperienza senza interventi manuali.
I primi utilizzatori includono laboratori di IA e startup che necessitano di addestrare modelli di grandi dimensioni su GPU costose come le Nvidia H100. Distribuendo i job su più cloud, possono evitare i sovrapprezzi derivanti da contratti speciali con un singolo fornitore. SkyPilot afferma inoltre di ridurre i tempi di inattività delle GPU, che rappresentano uno spreco di denaro in un mercato ristretto.
Il costo crescente del calcolo
I prezzi delle GPU sono aumentati vertiginosamente nell'ultimo anno, spinti dall'esplosione dell'IA generativa. Le aziende che un tempo acquistavano capacità su un singolo cloud ora cercano alternative, ma incontrano i limiti della gestione manuale multi-cloud. Il round da 20 milioni di dollari di SkyPilot — con investitori tra cui Lightspeed Venture Partners e altri — segnala che il mercato vede una crescente necessità di una soluzione unificata.
Né SkyPilot né gli investitori hanno rivelato la valutazione dell'azienda. I fondi saranno destinati all'espansione del team di ingegneria e allo sviluppo di integrazioni con più cloud provider e tipi di GPU.
La storia di Stoica con Databricks, che ha costruito un business da miliardi di dollari semplificando l'ingegneria dei dati, conferisce credibilità alla startup. Ma la concorrenza è agguerrita: player affermati come Kubernetes e strumenti più recenti come Run:ai e Anyscale stanno affrontando lo stesso problema.
Per ora, la proposta di SkyPilot è la semplicità. “Non vogliamo che gli utenti pensino ai cloud”, ha detto Stoica. “Dovrebbero pensare ai loro modelli.”
L'azienda prevede di rilasciare un importante aggiornamento della sua piattaforma open source entro la fine del trimestre, aggiungendo supporto per più regioni cloud e istanze GPU spot più economiche.
