SkyPilot, en startup grundlagt af Databricks-medstifter Ion Stoica, har sikret sig 20 millioner dollars i finansiering for at løse et voksende problem i AI-industrien: kompleksiteten ved at køre compute-tunge arbejdsbelastninger på tværs af flere cloud-udbydere. Virksomheden siger, at dens platform er designet til at skære igennem den leverandørlåsning, der er blevet en dyr hovedpine for mange organisationer, især i takt med at GPU-priserne stiger.
Hvorfor finansieringen er vigtig
Finansieringsrunden, der blev annonceret denne uge, kommer på et tidspunkt, hvor AI-virksomheder i stigende grad er bundet til en enkelt cloud-udbyder og ofte står over for store prisstigninger på GPU-kapacitet. SkyPilots software har til formål at give teams mulighed for at implementere jobs på Amazon Web Services, Google Cloud eller Microsoft Azure – eller en hvilken som helst kombination – uden at omskrive kode eller manuelt omkonfigurere infrastruktur. Ideen er at give brugerne fleksibilitet til at jagte billigere compute eller udnytte ledig kapacitet efter behov.
Stoica, som også er medstifter af Apache Spark-projektet og Ray-rammeværket, sagde i en erklæring, at industrien bevæger sig mod en multi-cloud-virkelighed. "AI-arbejdsbelastninger bliver for forskellige og for dyre til at være låst til én udbyder," bemærkede han. "SkyPilot giver teams friheden til at vælge, hvor deres modeller kører, baseret på omkostninger, tilgængelighed og ydeevne."
Sådan fungerer platformen
SkyPilot fungerer som et slags orchestration-lag. I stedet for at en bruger manuelt konfigurerer en klynge på én cloud, vælger platformen det bedste sted – på tværs af clouds – til at køre et job. Den håndterer provisionering, automatisk skalering og oprydning. Værktøjet er open source, men virksomheden tilbyder en administreret version til virksomheder, der ønsker en hands-off oplevelse.
Tidlige brugere inkluderer AI-laboratorier og startups, der har brug for at træne store modeller på dyre GPU'er som Nvidias H100'er. Ved at sprede jobs på tværs af clouds kan de undgå de pristillæg, der følger med en enkelt leverandørs særlige kontrakter. SkyPilot hævder også at reducere inaktiv GPU-tid, hvilket er spildte penge på et stramt marked.
De stigende compute-omkostninger
GPU-priserne er steget kraftigt det seneste år, drevet af eksplosionen inden for generativ AI. Virksomheder, der engang købte kapacitet på én cloud, søger nu alternativer, men støder på grænserne for manuel multi-cloud-administration. SkyPilots rejsning på 20 millioner dollars – fra investorer som Lightspeed Venture Partners og andre – signalerer, at markedet ser et voksende behov for en samlet løsning.
Hverken SkyPilot eller investorerne oplyste virksomhedens vurdering. Finansieringen vil gå til at udvide ingeniørteamet og opbygge flere integrationer med flere cloud-udbydere og GPU-typer.
Stoicas historie med Databricks, som byggede en milliardforretning omkring at forenkle data engineering, giver startup'en troværdighed. Men konkurrencen er hård: etablerede spillere som Kubernetes og nyere værktøjer som Run:ai og Anyscale kigger også på det samme problem.
Indtil videre er SkyPilots budskab enkelhed. "Vi ønsker ikke, at brugerne skal tænke på clouds," sagde Stoica. "De skal tænke på deres modeller."
Virksomheden planlægger at udgive en større opdatering til sin open source-platform senere i dette kvartal, med understøttelse af flere cloud-regioner og billigere GPU spot-instanser.
