Ngày 16 tháng 7, Samsung SDS đã ra mắt dịch vụ được gọi là NPU-as-a-Service đầu tiên tại Hàn Quốc, một dịch vụ đám mây được xây dựng dựa trên chip RNGD của FuriosaAI. Dịch vụ này nhắm thẳng vào khối lượng công việc AI của chính phủ — một thị trường đang khao khát các giải pháp nội địa thay thế cho các dịch vụ đám mây dựa trên GPU nước ngoài.
NPU-as-a-Service có ý nghĩa gì
NPU là viết tắt của bộ xử lý thần kinh, một loại chip được thiết kế đặc biệt để tăng tốc các tác vụ suy luận AI. Không giống như GPU đa năng, NPU có thể mang lại hiệu quả cao hơn cho một số mô hình học máy nhất định. Samsung SDS đang đóng gói silicon RNGD của FuriosaAI thành dịch vụ đám mây trả tiền theo mức sử dụng, cho phép các cơ quan chính phủ khai thác phần cứng AI chuyên dụng mà không cần tự mua và duy trì cơ sở hạ tầng vật lý.
Công ty cho biết dịch vụ đã hoạt động ngay bây giờ. Họ không tiết lộ giá cả hoặc khách hàng đầu tiên, nhưng trọng tâm vào khu vực công cho thấy một nỗ lực thúc đẩy năng lực AI có chủ quyền — giữ dữ liệu và khối lượng công việc nhạy cảm trên phần cứng nội địa.
Tại sao góc nhìn chính phủ lại quan trọng
Chính phủ Hàn Quốc đã đầu tư mạnh vào chip AI và dịch vụ đám mây nội địa, một phần để giảm phụ thuộc vào các nhà cung cấp nước ngoài. Bằng cách cung cấp đám mây NPU phù hợp với nhu cầu của chính phủ, Samsung SDS định vị mình như một giải pháp thay thế nội địa cho AWS, Azure hoặc Google Cloud cho suy luận AI. Chip RNGD từ FuriosaAI, một startup Hàn Quốc, bổ sung thêm một lớp độc lập công nghệ quốc gia.
Dịch vụ có thể xử lý các tác vụ như nhận dạng hình ảnh thời gian thực, xử lý ngôn ngữ tự nhiên cho các dịch vụ công, hoặc phân tích dữ liệu dựa trên AI — tất cả trong một môi trường được kiểm soát. Samsung SDS không nêu rõ cơ quan nào là khách hàng đầu tiên, nhưng thời điểm ra mắt phù hợp với các kế hoạch chuyển đổi số rộng lớn hơn của chính phủ.
Chip RNGD của FuriosaAI
RNGD của FuriosaAI là NPU thế hệ thứ hai được thiết kế cho suy luận thông lượng cao. Công ty trước đó đã phát hành chip đầu tiên, Warboy, nhưng RNGD được xây dựng cho các triển khai quy mô lớn hơn. Samsung SDS là nhà cung cấp đám mây đầu tiên cung cấp nó dưới dạng dịch vụ tại Hàn Quốc.
Kiến trúc của chip tập trung vào độ trễ thấp và hiệu suất năng lượng, điều quan trọng đối với khối lượng công việc của chính phủ có thể chạy 24/7. Samsung SDS sẽ xử lý cơ sở hạ tầng, bảo mật và mở rộng quy mô — khách hàng chính phủ chỉ trả tiền cho thời gian tính toán.
Hiện tại, dịch vụ chỉ khả dụng cho các cơ quan chính phủ. Samsung SDS chưa công bố lộ trình mở rộng sang sử dụng doanh nghiệp hoặc thương mại tổng quát.
