SkyPilot, një startup i themeluar nga bashkëthemeluesi i Databricks, Ion Stoica, ka siguruar 20 milionë dollarë financim për të adresuar një problem në rritje në industrinë e AI: kompleksiteti i ekzekutimit të ngarkesave të punës intensive në llogaritje nëpër ofrues të shumtë cloud. Kompania thotë se platforma e saj është krijuar për të shmangur varësinë nga një ofrues i vetëm, e cila është bërë një dhimbje koke e kushtueshme për shumë organizata, veçanërisht pasi çmimet e GPU-ve janë rritur.
Pse ka rëndësi financimi
\nRaundi i financimit, i njoftuar këtë javë, vjen në një kohë kur kompanitë e AI po e gjejnë veten gjithnjë e më të lidhura me një ofrues të vetëm cloud, shpesh duke u përballur me rritje të mprehta të çmimeve për kapacitetin GPU. Softueri i SkyPilot synon t'u mundësojë ekipeve të vendosin punë në Amazon Web Services, Google Cloud ose Microsoft Azure — ose çdo kombinim — pa rishkruar kod ose pa rikonfiguruar manualisht infrastrukturën. Acquisitions? Actually the text says: "The idea is to give users flexibility to chase cheaper compute or burst into spare capacity as needed." Translate: "Ideja është t'u japë përdoruesve fleksibilitet për të kërkuar llogaritje më të lira ose për të shfrytëzuar kapacitetin e lirë sipas nevojës."
Stoica, i cili gjithashtu bashkëthemeloi projektin Apache Spark dhe kornizën Ray, tha në një deklaratë se industria po lëviz drejt një modeli multi-cloud. “Ngarkesat e punës AI po bëhen shumë të ndryshme dhe shumë të shtrenjta për t'u bllokuar në një ofrues të vetëm,” vuri në dukje ai. “SkyPilot u jep ekipeve lirinë të zgjedhin ku të ekzekutohen modelet e tyre, bazuar në kosto, disponueshmëri dhe performancë.”
Si funksionon platforma
\nSkyPilot vepron si një shtresë orkestrimi. Në vend që një përdorues të konfigurojë manualisht një grup në një cloud, platforma zgjedh vendin më të mirë — nëpër cloud — për të ekzekutuar një punë. Ajo trajton sigurimin, shkallëzimin automatik dhe pastrimin. Mjeti është me burim të hapur, megjithëse kompania ofron një version të menaxhuar për ndërmarrjet që duan një përvojë pa ndërhyrje.
Përdoruesit e hershëm përfshijnë laboratorë AI dhe startup-e që duhet të trajnojnë modele të mëdha në GPU të shtrenjta si H100 të Nvidia-s. Duke shpërndarë punë nëpër cloud, ata mund të shmangin rritjet e çmimeve që vijnë me kontratat speciale të një shitësi të vetëm. SkyPilot gjithashtu pretendon se redukton kohën e papërdorur të GPU-ve, e cila është para të humbura në një treg të ngushtë.
Kostoja në rritje e llogaritjes
\nÇmimet e GPU-ve janë rritur gjatë vitit të kaluar, të nxitur nga shpërthimi i AI gjeneruese. Kompanitë që dikur blinin kapacitet në një cloud tani po kërkojnë alternativa, por po hasin në kufijtë e menaxhimit manual multi-cloud. Mbledhja e 20 milionë dollarëve nga SkyPilot — nga investitorë përfshirë Lightspeed Venture Partners dhe të tjerë — sinjalizon se tregu sheh një nevojë në rritje për një zgjidhje të unifikuar.
As SkyPilot dhe as investitorët nuk zbuluan vlerësimin e kompanisë. Financimi do të shkojë për zgjerimin e ekipit inxhinierik dhe ndërtimin e integrimit me më shumë ofrues cloud dhe lloje GPU-sh.
Historia e Stoica-s me Databricks, e cila ndërtoi një biznes miliardë dollarësh rreth thjeshtimit të inxhinierisë së të dhënave, i jep startup-it besueshmëri. Por konkurrenca është e ashpër: lojtarë të vendosur si Kubernetes dhe mjete më të reja si Run:ai dhe Anyscale po synojnë gjithashtu të njëjtin problem.
Tani për tani, mesazhi i SkyPilot është thjeshtësia. “Ne nuk duam që përdoruesit të mendojnë për cloud-et,” tha Stoica. “Ata duhet të mendojnë për modelet e tyre.”
Kompania planifikon të lëshojë një përditësim të madh të platformës së saj me burim të hapur më vonë këtë tremujor, duke shtuar mbështetje për më shumë rajone cloud dhe instanca më të lira GPU spot.
