A Databricks társalapítója, Ion Stoica által alapított SkyPilot 20 millió dolláros finanszírozást szerzett, hogy megoldja az AI-ipar egy növekvő problémáját: a számításigényes munkaterhelések több felhőszolgáltatón keresztüli futtatásának összetettségét. A vállalat szerint platformja úgy lett kialakítva, hogy áttörje a szállítói bezártságot, amely sok szervezet számára költséges fejfájást okoz, különösen a GPU-árak emelkedésével.
Miért fontos a finanszírozás
A héten bejelentett finanszírozási kör akkor érkezik, amikor az AI-vállalatok egyre gyakrabban találják magukat egyetlen felhőszolgáltatóhoz kötve, gyakran szembesülve a GPU-kapacitás meredek áremelkedésével. A SkyPilot szoftvere lehetővé teszi a csapatok számára, hogy feladatokat telepítsenek az Amazon Web Services, a Google Cloud vagy a Microsoft Azure rendszerén – vagy ezek bármilyen kombinációján – anélkül, hogy kódot kellene átírniuk vagy manuálisan át kellene konfigurálniuk az infrastruktúrát. Az ötlet az, hogy rugalmasságot biztosítson a felhasználóknak az olcsóbb számítási kapacitás megtalálásához vagy a szabad kapacitásba való bekapcsolódáshoz, amikor szükséges.
Stoica, aki az Apache Spark projekt és a Ray keretrendszer társalapítója is, egy nyilatkozatban elmondta, hogy az iparág a többfelhős valóság felé halad. „Az AI-munkaterhelések túl változatosak és túl drágák ahhoz, hogy egy szolgáltatóhoz legyenek kötve” – jegyezte meg. „A SkyPilot szabadságot ad a csapatoknak, hogy eldöntsék, hol fussanak a modelljeik, a költségek, a rendelkezésre állás és a teljesítmény alapján.”
Hogyan működik a platform
A SkyPilot egyfajta orchestációs rétegként működik. Ahelyett, hogy a felhasználó manuálisan konfigurálna egy klasztert egy felhőn, a platform kiválasztja a legjobb helyet – a felhők között – a feladat futtatásához. Kezeli a provisioninget, az automatikus skálázást és a takarítást. Az eszköz nyílt forráskódú, bár a cég kínál egy menedzselt verziót is azoknak a vállalatoknak, amelyek kézi beavatkozás nélküli élményt szeretnének.
A korai alkalmazók közé tartoznak az AI-laborok és startupok, amelyek nagy modelleket kell tanítaniuk drága GPU-kon, mint az Nvidia H100-asai. A feladatok szétosztásával a felhők között elkerülhetik az egyetlen szállító speciális szerződéseiből adódó felárakat. A SkyPilot azt is állítja, hogy csökkenti a tétlen GPU-időt, ami pénzkidobás egy szűk piacon.
A számítási kapacitás növekvő költsége
A GPU-árak az elmúlt évben megugrottak a generatív AI robbanása miatt. A vállalatok, amelyek korábban egy felhőn vásároltak kapacitást, most körülnéznek, de beleütköznek a manuális többfelhős menedzsment korlátaiba. A SkyPilot 20 millió dolláros bevonása – olyan befektetőktől, mint a Lightspeed Venture Partners és mások – azt jelzi, hogy a piac egyre nagyobb szükséget lát egy egységes megoldásra.
Sem a SkyPilot, sem a befektetők nem hozták nyilvánosságra a vállalat értékelését. A finanszírozást a mérnöki csapat bővítésére és további felhőszolgáltatókkal és GPU-típusokkal való integrációk kiépítésére fordítják.
Stoica múltja a Databricks-szel, amely egy milliárd dolláros üzletet épített az adatmérnöki feladatok egyszerűsítése köré, hitelességet ad a startupnak. De a verseny éles: a bejáratott szereplők, mint a Kubernetes, és az újabb eszközök, mint a Run:ai és az Anyscale, szintén ugyanerre a problémára figyelnek.
Egyelőre a SkyPilot üzenete az egyszerűség. „Nem akarjuk, hogy a felhasználók a felhőkre gondoljanak” – mondta Stoica. „A modelljeikre kell gondolniuk.”
A cég még ebben a negyedévben egy jelentős frissítést tervez kiadni a nyílt forráskódú platformjához, amely támogatást ad több felhőrégióhoz és olcsóbb GPU spot-példányokhoz.
