AMD ngày 23/7 công bố nền tảng AI rackscale Helios tại sự kiện Advancing AI 2026 ở San Francisco, đồng thời cho biết sản phẩm đã bước vào giai đoạn sản xuất hàng loạt. Đây là động thái mới của hãng nhằm tăng sức cạnh tranh trên thị trường bộ gia tốc AI.

Helios tích hợp GPU AMD Instinct MI455X, CPU máy chủ AMD EPYC thế hệ thứ 6, phần mềm AMD ROCm và mạng AMD Pensando trong một kiến trúc hợp nhất ở cấp rack.

Theo AMD, mỗi rack của Helios có thể đạt hiệu năng đỉnh FP4 tối đa 2,9 exaflop, được trang bị 31 terabyte bộ nhớ HBM4 và băng thông bộ nhớ 1,7 petabyte/giây.

FP4 là định dạng số thực dấu phẩy động 4 bit, thường được dùng trong tính toán AI để ưu tiên tốc độ xử lý và hiệu quả năng lượng hơn độ chính xác cao.

AMD cho biết so với sản phẩm chủ lực của đối thủ cạnh tranh, Helios cao hơn 15% về hiệu năng đỉnh FP4, tăng 50% dung lượng HBM, tăng 6% băng thông HBM và tăng 50% băng thông scale-out.

Công ty cũng nói rằng chi phí xử lý token tính trên mỗi rack có thể thấp hơn tới 30% so với các giải pháp cạnh tranh.

Về khả năng mở rộng, Helios có thể được cấu hình từ một rack đơn lẻ tới các cụm AI ở quy mô gigawatt.

Mỗi rack được trang bị 18 khay tính toán, mỗi khay gồm 4 GPU, tương đương tổng cộng 72 GPU. Kết nối băng thông cao, độ trễ thấp được đảm nhiệm bởi AMD Pensando Vulcano 800 AI NIC, phục vụ các tác vụ suy luận phân tán và huấn luyện mô hình quy mô lớn.

Nền tảng này sử dụng kiến trúc mở, hỗ trợ scale-up dựa trên UALink over Ethernet và scale-out theo tiêu chuẩn của Ultra Ethernet Consortium.

AMD cho biết Helios dự kiến sẽ được các công ty AI lớn như Meta, OpenAI, Anthropic và Microsoft sử dụng để xây dựng hạ tầng AI ở quy mô gigawatt.

Ông Vamsi Boppana, Phó chủ tịch cấp cao phụ trách AI tại AMD, cho biết Helios kết hợp năng lực tính toán hiệu năng cao, hạ tầng mạng và phần mềm mở trong một nền tảng rackscale tích hợp. Theo ông, điều này giúp khách hàng linh hoạt hơn trong việc tăng tốc suy luận quy mô lớn, huấn luyện các mô hình AI tiên tiến và xây dựng hạ tầng AI thế hệ tiếp theo.