Samsung SDS ngày 20/7 cho biết đã triển khai dịch vụ NPUaaS (NPU as a Service) trên Samsung Cloud Platform (SCP), sử dụng Renegade (RGND) - dòng NPU thế hệ thứ hai của FuriosaAI.

Theo công ty, Renegade là NPU do Hàn Quốc phát triển và được tối ưu cho các tác vụ suy luận AI. Ở giai đoạn đưa mô hình AI đã huấn luyện vào vận hành thực tế như tạo phản hồi, phân tích tài liệu hay nhận diện hình ảnh, dòng chip này được đánh giá có lợi thế về hiệu quả điện năng và chi phí so với GPU.

Với NPUaaS, khách hàng không cần mua máy chủ NPU hoặc tự triển khai hạ tầng tại trung tâm dữ liệu. Doanh nghiệp có thể đăng ký sử dụng dịch vụ trên SCP theo mô hình thuê bao.

Tùy theo nhu cầu và quy mô dữ liệu, khách hàng có thể lựa chọn các cấu hình gồm 1, 2, 4 hoặc 8 thẻ NPU. Samsung SDS cho biết mô hình này phù hợp với nhiều quy mô triển khai AI, từ startup đến các tập đoàn lớn.

Dịch vụ cũng có thể kết hợp với các sản phẩm khác trên SCP như lưu trữ hiệu năng cao, tài nguyên tính toán và mạng tốc độ cao. Samsung SDS cho biết sẽ cung cấp NPUaaS trong môi trường đám mây có chủ quyền (sovereign cloud) của SCP, phục vụ nhóm khách hàng khu vực công có yêu cầu nghiêm ngặt về tuân thủ và bảo mật.

Theo Samsung SDS, việc ra mắt NPUaaS sẽ giúp mở rộng danh mục dịch vụ từ GPUaaS sang cả tài nguyên tính toán dựa trên NPU. Công ty kỳ vọng động thái này sẽ mang lại thêm lựa chọn hạ tầng AI cho khách hàng, đồng thời thúc đẩy phổ cập hạ tầng AI dựa trên NPU do Hàn Quốc phát triển và hỗ trợ xây dựng sovereign AI.

Ông Lee Ho-jun, Phó chủ tịch kiêm Giám đốc bộ phận Cloud Service của Samsung SDS, cho biết NPUaaS không chỉ là một sản phẩm đám mây mới mà còn giúp khách hàng tiếp cận công nghệ AI hiệu năng cao linh hoạt hơn với chi phí tối ưu hơn. Ông cho biết công ty sẽ tiếp tục đa dạng hóa danh mục sản phẩm dựa trên SCP và duy trì vai trò dẫn dắt hệ sinh thái công nghệ AI trên nền tảng đám mây.