SkyPilot, sebuah syarikat pemula yang diasaskan oleh pengasas bersama Databricks, Ion Stoica, telah memperoleh $20 juta dalam pembiayaan untuk menangani satu titik kesakitan yang semakin meningkat dalam industri AI: kerumitan menjalankan beban kerja berat pengiraan merentasi pelbagai penyedia awan. Syarikat itu menyatakan platformnya direka untuk memotong penguncian vendor yang telah menjadi sakit kepala yang mahal bagi banyak organisasi, terutamanya apabila harga GPU meningkat.
Mengapa pembiayaan ini penting
Pusingan pembiayaan yang diumumkan minggu ini datang ketika syarikat AI semakin terikat dengan satu vendor awan, sering menghadapi kenaikan harga yang mendadak untuk kapasiti GPU. Perisian SkyPilot bertujuan membolehkan pasukan menggunakan kerja di Amazon Web Services, Google Cloud, atau Microsoft Azure — atau mana-mana kombinasi — tanpa menulis semula kod atau mengkonfigurasi semula infrastruktur secara manual. Ideanya adalah untuk memberi pengguna fleksibiliti untuk mencari pengiraan yang lebih murah atau meletup ke dalam kapasiti terbiar apabila diperlukan.
Stoica, yang juga mengasaskan projek Apache Spark dan rangka kerja Ray, berkata dalam satu kenyataan bahawa industri sedang bergerak ke arah realiti pelbagai awan. “Beban kerja AI menjadi terlalu pelbagai dan terlalu mahal untuk dikunci kepada satu pembekal,” katanya. “SkyPilot memberi pasukan kebebasan untuk memilih di mana model mereka berjalan, berdasarkan kos, ketersediaan, dan prestasi.”
Bagaimana platform berfungsi
SkyPilot bertindak sebagai sejenis lapisan orkestrasi. Daripada pengguna mengkonfigurasi kluster secara manual pada satu awan, platform ini memilih tempat terbaik — merentasi awan — untuk menjalankan kerja. Ia mengendalikan peruntukan, penskalaan automatik, dan pembersihan. Alat ini adalah sumber terbuka, walaupun syarikat menawarkan versi terurus untuk perusahaan yang mahukan pengalaman tanpa perlu mengurus sendiri.
Pengguna awal termasuk makmal AI dan syarikat pemula yang perlu melatih model besar pada GPU mahal seperti H100 Nvidia. Dengan menyebarkan kerja merentasi awan, mereka boleh mengelakkan markup yang datang dengan kontrak khas vendor tunggal. SkyPilot juga mendakwa mengurangkan masa GPU terbiar, yang merupakan pembaziran wang dalam pasaran yang ketat.
Kos pengiraan yang semakin meningkat
Harga GPU telah melonjak sejak tahun lalu, didorong oleh ledakan AI generatif. Syarikat yang dahulunya membeli kapasiti pada satu awan kini mula mencari-cari, tetapi mencapai had pengurusan manual pelbagai awan. Pengumpulan $20 juta SkyPilot — daripada pelabur termasuk Lightspeed Venture Partners dan lain-lain — menandakan bahawa pasaran melihat keperluan yang semakin meningkat untuk penyelesaian bersatu.
SkyPilot mahupun pelabur tidak mendedahkan penilaian syarikat. Pembiayaan akan digunakan untuk mengembangkan pasukan kejuruteraan dan membina integrasi dengan lebih banyak penyedia awan dan jenis GPU.
Sejarah Stoica dengan Databricks, yang membina perniagaan bernilai berbilion dolar di sekitar memudahkan kejuruteraan data, memberikan kredibiliti kepada syarikat pemula ini. Tetapi persaingan adalah sengit: pemain mantap seperti Kubernetes dan alat yang lebih baru seperti Run:ai dan Anyscale juga melihat masalah yang sama.
Buat masa ini, tawaran SkyPilot adalah kesederhanaan. “Kami tidak mahu pengguna memikirkan tentang awan,” kata Stoica. “Mereka harus memikirkan tentang model mereka.”
Syarikat itu merancang untuk mengeluarkan kemas kini utama kepada platform sumber terbukanya pada suku tahun ini, menambah sokongan untuk lebih banyak rantau awan dan tika spot GPU yang lebih murah.
