AMD ngày 12/10 (giờ địa phương) công bố Helion, mẫu rack hạ tầng mở dành cho agentic AI, được phát triển trên đặc tả của Open Compute Project (OCP). Sản phẩm được thiết kế để tối ưu cấu hình máy chủ theo từng tác vụ do AI agent đảm nhiệm và dự kiến ra mắt vào tháng 11.
Theo AMD, Helion kế thừa định hướng thiết kế của giải pháp rackscale AMD Helios, tập trung vào kiến trúc mở và khả năng tùy biến linh hoạt. Doanh nghiệp có thể lựa chọn hiệu năng CPU, mật độ lõi và mức tiêu thụ điện phù hợp với từng workload, đồng thời bổ sung tăng tốc GPU khi cần.
Hệ thống hỗ trợ nhiều cấu hình, gồm cả làm mát bằng chất lỏng và làm mát bằng không khí, đi kèm phần mềm mở. AMD cho biết các đối tác có thể tách cấu hình theo từng khối chức năng như chạy agent, suy luận mô hình và tính toán hỗ trợ, tùy theo nhu cầu của khách hàng.
Với phiên bản chỉ dùng CPU, rack được trang bị bộ xử lý AMD EPYC thế hệ 6 và hỗ trợ tối đa 32.768 lõi CPU. Sản phẩm này nhắm tới nhóm khách hàng hyperscale đang vận hành các trung tâm dữ liệu quy mô lớn. Theo AMD, cấu hình này dành năng lực xử lý riêng cho tác vụ agent, trong khi phần suy luận mô hình có thể được kết nối với một hạ tầng riêng biệt. Kiến trúc hệ thống cũng được thiết kế để tách biệt khu vực CPU xử lý tác vụ agent với khu vực suy luận mô hình.
Ở phiên bản all-in-one, Helion tích hợp node CPU EPYC, node GPU AMD Instinct MI350P cùng năng lực tính toán đa dụng trên cùng một nền tảng. Thiết kế này nhằm hỗ trợ đối tác và khách hàng triển khai trọn gói hệ thống agentic AI cho doanh nghiệp. AMD cho biết cách tiếp cận này cũng giúp doanh nghiệp tích hợp agentic AI vào hạ tầng CNTT hiện hữu, qua đó tận dụng các khoản đầu tư trước đây làm nền tảng cho năng lực AI mới.
Cisco, Dell Technologies, Hon Hai Technology Group, HPE, Lenovo, Supermicro và Wiwynn cho biết sẽ hỗ trợ Helion. AMD cũng dự kiến đệ trình đặc tả Helion lên OCP để cộng đồng tiếp tục phát triển và triển khai. OCP là tổ chức hợp tác chuyên công bố và chia sẻ các thiết kế thiết bị trung tâm dữ liệu.
AMD cho biết cấu hình rack cho agentic AI hiện được phát triển cùng các đối tác trong hệ sinh thái và dự kiến ra mắt vào tháng 11.
Ông Dan McNamara, Phó chủ tịch cấp cao kiêm lãnh đạo mảng Compute và Enterprise AI của AMD, cho biết agentic AI không phải là một workload đơn lẻ mà trải rộng từ agent cá nhân, ứng dụng doanh nghiệp, thực thi mã đến các quy trình làm việc phức tạp. Theo ông, mỗi lĩnh vực đòi hỏi năng lực tính toán khác nhau, vì vậy hạ tầng cũng cần được tối ưu theo từng workload để đáp ứng đa dạng nhu cầu.
Ông cho biết thêm AMD Helion kết hợp hiệu năng của AMD EPYC, phần mềm mở và thiết kế rack linh hoạt, qua đó giúp các đối tác xây dựng hệ thống phù hợp với nhu cầu khách hàng và sử dụng hiệu quả nguồn điện sẵn có.