Arm ngày 15/10 công bố bộ chuẩn đánh giá hiệu năng CPU dành cho kỷ nguyên agentic AI, đồng thời giới thiệu phương pháp benchmark do hãng phối hợp xây dựng cùng Fujitsu, Meta và OpenAI.

Theo Arm, cách đo mới tập trung vào số tác vụ mà các agent AI thực sự hoàn thành, thay vì chỉ nhìn vào mức sử dụng tài nguyên hay thông lượng riêng lẻ. Hãng cho rằng năng lực của hệ thống agentic AI cần được đánh giá bằng số lượng tác vụ có thể xử lý đồng thời trong khi vẫn duy trì khả năng phản hồi. Trong trường hợp mức sử dụng tài nguyên tăng nhưng thông lượng giảm, số tác vụ hoàn tất trên thực tế cũng không tăng, dù công suất xử lý theo lý thuyết có thể lớn hơn.

Phương pháp mới được xây dựng trên ba nguyên tắc gồm: kịch bản sử dụng agentic AI mang tính đại diện, phép đo CPU có thể lặp lại và kiểm chứng đầu cuối. Các biến số như suy luận mô hình hay mạng được đo tách biệt theo từng thành phần, sau đó tiếp tục kiểm chứng đầu cuối để xác định liệu các cải thiện về hiệu năng có thực sự chuyển thành kết quả hoàn thành tác vụ hay không.

Cùng ngày, Arm cũng công bố kết quả kiểm chứng độc lập đối với Arm AGI CPU do Signal65 thực hiện. Trong đánh giá này, Signal65 so sánh Arm AGI CPU với AMD EPYC Turin ở các tác vụ như tooling, orchestration, suy luận và lập kế hoạch. Đơn vị này áp dụng cùng một kịch bản benchmark trên cả hai nền tảng, đo hiệu năng thực tế ở cấp máy chủ và mô phỏng hiệu năng ở cấp rack.

Theo Arm, Arm AGI CPU đạt hiệu năng trung bình ở cấp rack cao gấp 1,99 lần so với AMD EPYC 9755 trên 7 workload, nhờ mật độ tính toán và hiệu suất năng lượng cao. Xét theo từng workload, hiệu năng ở tác vụ tooling cao hơn 1,7 lần; workflow agentic và orchestration cao hơn 2 lần; còn suy luận và lập kế hoạch cao hơn 2,2 lần. Hãng cũng cho biết độ trễ khi tạo sandbox để agent chạy trong môi trường thực thi cô lập ngắn hơn tới 45% so với AMD EPYC 9965.

Arm cho biết hãng đang tiến hành thủ tục đóng góp máy chủ tham chiếu Arm AGI CPU cho OCP, tổ chức xây dựng tiêu chuẩn trung tâm dữ liệu mở. Meta dự kiến đưa dòng CPU này vào thiết kế rack-scale Yosemite YV5.

Ông Colin Jarvis, phụ trách Global Forward Deployed Engineering tại OpenAI, nhận định các hệ thống AI đang chuyển từ việc chỉ tạo phản hồi sang hoàn thành những tác vụ phức tạp hơn thông qua suy luận, sử dụng công cụ và tương tác với môi trường phần mềm. Theo ông, khi năng lực và mức độ ứng dụng của các agent tiếp tục tăng, việc hiểu rõ hiệu năng của hạ tầng hỗ trợ các workflow này, bao gồm orchestration và thực thi công cụ, sẽ trở thành bài toán quan trọng của toàn ngành.

Ông cũng nhấn mạnh hợp tác trong ngành để xây dựng các benchmark mang tính đại diện là yếu tố then chốt, nhằm phản ánh đúng đặc tính của các workload mới và tối ưu hiệu năng cho toàn bộ hệ thống AI.

Ông Yoshida Toshio, lãnh đạo bộ phận phát triển điện toán tiên tiến kiêm Phó chủ tịch cấp cao của Fujitsu, cho biết khi agentic AI phát triển, việc đánh giá hiệu năng CPU cần dựa trên những benchmark phản ánh workload thực tế thay vì chỉ dựa vào các chỉ số truyền thống. Ông nói Fujitsu nhận thức rõ tầm quan trọng của các phép đo minh bạch, có thể tái tạo và mang tính đại diện trong quá trình phát triển FUJITSU-MONAKA, dòng CPU Arm thế hệ mới có hiệu năng và hiệu suất năng lượng cao.