SkyPilot, một startup do Ion Stoica, đồng sáng lập Databricks, thành lập, đã huy động được 20 triệu USD để giải quyết một vấn đề nan giải trong ngành AI: sự phức tạp khi vận hành các khối lượng công việc tính toán nặng trên nhiều nhà cung cấp đám mây. Công ty cho biết nền tảng của họ được thiết kế để loại bỏ tình trạng phụ thuộc vào một nhà cung cấp duy nhất, vốn đã trở thành cơn đau đầu tốn kém cho nhiều tổ chức, đặc biệt khi giá GPU ngày càng leo thang.
Tại sao khoản tài trợ này lại quan trọng
Vòng tài trợ được công bố trong tuần này diễn ra khi các công ty AI ngày càng bị ràng buộc vào một nhà cung cấp đám mây duy nhất, thường phải đối mặt với mức tăng giá mạnh cho dung lượng GPU. Phần mềm của SkyPilot nhằm cho phép các nhóm triển khai công việc trên Amazon Web Services, Google Cloud hoặc Microsoft Azure — hoặc bất kỳ sự kết hợp nào — mà không cần viết lại mã hoặc cấu hình lại hạ tầng thủ công. Ý tưởng là mang đến cho người dùng sự linh hoạt để tìm kiếm chi phí tính toán rẻ hơn hoặc tận dụng dung lượng dư thừa khi cần.
Stoica, người cũng đồng sáng lập dự án Apache Spark và framework Ray, cho biết trong một tuyên bố rằng ngành công nghiệp đang hướng tới một thực tế đa đám mây. “Khối lượng công việc AI đang trở nên quá đa dạng và quá đắt đỏ để bị khóa vào một nhà cung cấp duy nhất,” ông nhận xét. “SkyPilot mang đến cho các nhóm sự tự do để lựa chọn nơi mô hình của họ chạy, dựa trên chi phí, tính khả dụng và hiệu suất.”
Cách nền tảng hoạt động
SkyPilot hoạt động như một lớp điều phối. Thay vì người dùng tự cấu hình một cụm trên một đám mây, nền tảng sẽ chọn vị trí tốt nhất — trên nhiều đám mây — để chạy một công việc. Nó xử lý việc cung cấp tài nguyên, tự động mở rộng và dọn dẹp. Công cụ này là mã nguồn mở, mặc dù công ty cũng cung cấp phiên bản quản lý dành cho doanh nghiệp muốn trải nghiệm không cần can thiệp.
Các khách hàng đầu tiên bao gồm các phòng thí nghiệm AI và startup cần huấn luyện các mô hình lớn trên các GPU đắt tiền như H100 của Nvidia. Bằng cách phân tán công việc trên nhiều đám mây, họ có thể tránh được các khoản phụ phí đi kèm với hợp đồng đặc biệt của một nhà cung cấp duy nhất. SkyPilot cũng tuyên bố giảm thời gian GPU nhàn rỗi, vốn là tiền lãng phí trong một thị trường khan hiếm.
Chi phí tính toán ngày càng tăng
Giá GPU đã tăng vọt trong năm qua, do sự bùng nổ của AI tạo sinh. Các công ty từng mua dung lượng trên một đám mây giờ đây đang tìm kiếm nhiều nơi khác, nhưng vấp phải giới hạn của việc quản lý thủ công nhiều đám mây. Khoản huy động 20 triệu USD của SkyPilot — từ các nhà đầu tư bao gồm Lightspeed Venture Partners và những quỹ khác — cho thấy thị trường nhận thấy nhu cầu ngày càng tăng về một giải pháp thống nhất.
Cả SkyPilot và các nhà đầu tư đều không tiết lộ định giá của công ty. Khoản tài trợ sẽ được dùng để mở rộng đội ngũ kỹ thuật và xây dựng thêm các tích hợp với nhiều nhà cung cấp đám mây và loại GPU hơn.
Lịch sử của Stoica với Databricks, công ty đã xây dựng một doanh nghiệp tỷ đô xoay quanh việc đơn giản hóa kỹ thuật dữ liệu, mang lại uy tín cho startup này. Nhưng sự cạnh tranh rất khốc liệt: các công ty lâu đời như Kubernetes và các công cụ mới hơn như Run:ai và Anyscale cũng đang nhắm đến cùng một vấn đề.
Hiện tại, lời chào hàng của SkyPilot là sự đơn giản. “Chúng tôi không muốn người dùng phải nghĩ về các đám mây,” Stoica nói. “Họ nên nghĩ về các mô hình của mình.”
Công ty dự kiến sẽ phát hành một bản cập nhật lớn cho nền tảng mã nguồn mở của mình vào cuối quý này, bổ sung hỗ trợ cho nhiều khu vực đám mây hơn và các phiên bản GPU spot rẻ hơn.
