Ảnh: Lenovo

Lenovo ngày 7/10 công bố Lenovo AI Express, giải pháp phát triển cùng NVIDIA nhằm hỗ trợ doanh nghiệp đưa trí tuệ nhân tạo từ giai đoạn thử nghiệm vào vận hành thực tế.

Theo Lenovo, Lenovo AI Express được xây dựng để phục vụ việc triển khai Lenovo Hybrid AI Factory with NVIDIA. Giải pháp này cung cấp ba cấu hình dựng sẵn đã được kiểm chứng, đáp ứng nhu cầu AI khác nhau của doanh nghiệp dựa trên quy mô mô hình, số lượng người dùng và thông lượng xử lý.

Trong đó, gói Small hỗ trợ suy luận AI từ 30 TPS trở lên cho hàng chục người dùng, phù hợp với các mô hình có quy mô từ 7 tỷ đến 70 tỷ tham số. Gói Medium hỗ trợ suy luận AI với thông lượng cao từ 30 TPS trở lên, đồng thời đáp ứng các tác vụ agentic AI cho hàng trăm người dùng, hướng tới các mô hình từ 70 tỷ đến 400 tỷ tham số.

Với gói Large, Lenovo cung cấp cấu hình hạ tầng AI tạo sinh quy mô lớn, có thể phục vụ hàng nghìn người dùng trong nhiều khối lượng công việc khác nhau. Gói này hỗ trợ các mô hình lên tới 1 nghìn tỷ tham số và phù hợp cho triển khai ở quy mô doanh nghiệp.

Ông Sumir Bhatia, Giám đốc Thương mại khu vực châu Á - Thái Bình Dương của Lenovo, cho biết các doanh nghiệp trong khu vực đang tìm kiếm cách tiếp cận thực tế để đẩy nhanh triển khai AI, đồng thời cân bằng giữa hiệu năng, khả năng mở rộng và hiệu quả đầu tư. Theo ông, Lenovo AI Express giúp khách hàng nhanh chóng xây dựng hạ tầng AI phù hợp với nhu cầu, qua đó giảm rủi ro đầu tư quá mức từ giai đoạn đầu hoặc chậm trễ triển khai.

Từ khóa

#Lenovo #NVIDIA #Lenovo AI Express #Lenovo Hybrid AI Factory with NVIDIA #AI factory #hạ tầng AI tạo sinh #suy luận AI #agentic AI #AI tạo sinh
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.