SkyPilot, en oppstart grunnlagt av Databricks-medgründer Ion Stoica, har sikret seg 20 millioner dollar i finansiering for å løse et voksende problem i AI-bransjen: kompleksiteten ved å kjøre tunge databehandlingsarbeidsbelastninger på tvers av flere skyleverandører. Selskapet hevder at plattformen deres er designet for å kutte gjennom leverandørlåsningen som har blitt en kostbar hodepine for mange organisasjoner, spesielt ettersom GPU-prisene stiger.
Hvorfor finansieringen er viktig
Finansieringsrunden, som ble annonsert denne uken, kommer mens AI-selskaper i økende grad finner seg bundet til én enkelt skyleverandør, ofte med bratte prisøkninger for GPU-kapasitet. SkyPilots programvare har som mål å la team distribuere jobber på Amazon Web Services, Google Cloud eller Microsoft Azure – eller en hvilken som helst kombinasjon – uten å omskrive kode eller manuelt omkonfigurere infrastruktur. Ideen er å gi brukerne fleksibilitet til å jage billigere datakraft eller utnytte ledig kapasitet etter behov.
Stoica, som også var med på å grunnlegge Apache Spark-prosjektet og Ray-rammeverket, uttalte i en pressemelding at bransjen beveger seg mot en multi-sky-virkelighet. «AI-arbeidsbelastninger blir for mangfoldige og for dyre til å være låst til én leverandør,» bemerket han. «SkyPilot gir team friheten til å velge hvor modellene deres kjører, basert på kostnad, tilgjengelighet og ytelse.»
Slik fungerer plattformen
SkyPilot fungerer som et slags orkestreringslag. I stedet for at en bruker manuelt konfigurerer en klynge på én sky, velger plattformen det beste stedet – på tvers av skytjenester – for å kjøre en jobb. Den håndterer klargjøring, automatisk skalering og opprydding. Verktøyet er åpen kildekode, men selskapet tilbyr en administrert versjon for bedrifter som ønsker en mer praktisk løsning.
Tidlige brukere inkluderer AI-laboratorier og oppstarter som trenger å trene store modeller på dyre GPUer som Nvidias H100. Ved å spre jobber på tvers av skytjenester kan de unngå påslagene som følger med én enkelt leverandørs spesialkontrakter. SkyPilot hevder også å redusere inaktiv GPU-tid, som er bortkastede penger i et stramt marked.
Den økende kostnaden for datakraft
GPU-prisene har skutt i været det siste året, drevet av eksplosjonen av generativ AI. Selskaper som en gang kjøpte kapasitet på én sky, handler nå rundt, men støter på grensene for manuell multi-sky-administrasjon. SkyPilots innhenting av 20 millioner dollar – fra investorer som Lightspeed Venture Partners og andre – signaliserer at markedet ser et økende behov for en enhetlig løsning.
Verken SkyPilot eller investorene oppga selskapets verdivurdering. Finansieringen vil gå til å utvide ingeniørteamet og bygge ut integrasjoner med flere skyleverandører og GPU-typer.
Stoicas historie med Databricks, som bygde en milliardforretning rundt å forenkle dataengineering, gir oppstarten troverdighet. Men konkurransen er tøff: etablerte aktører som Kubernetes og nyere verktøy som Run:ai og Anyscale sikter også mot det samme problemet.
Foreløpig er SkyPilots budskap enkelhet. «Vi vil ikke at brukere skal tenke på skytjenester,» sa Stoica. «De bør tenke på modellene sine.»
Selskapet planlegger å slippe en større oppdatering av sin åpen kildekode-plattform senere i kvartalet, med støtte for flere skyregioner og billigere GPU spot-forekomster.
