图片来源:Arm

Arm发布了面向Agentic AI时代的CPU性能评估方法。Arm于10月15日表示,已公开一套与Fujitsu、Meta、OpenAI共同开发的基准测试框架。

这套方法的核心,是用代理实际完成的任务量来衡量系统性能。Arm表示,在Agentic计算场景下,关键不在于理论处理能力有多高,而在于系统在保持响应性的前提下,能够并行完成多少任务。若资源利用率上升却导致吞吐下降,即便理论算力提高,最终完成的任务数也未必增加。

Arm称,新方法遵循三项原则:一是覆盖具有代表性的Agentic AI使用场景;二是实现可重复的CPU测量;三是通过端到端验证,确认性能提升是否真正转化为任务完成效果。具体而言,该框架将模型推理、网络等因素拆分到组件层面分别测量,再结合端到端评估进行交叉验证。

与此同时,Arm还披露了由Signal65完成的Arm AGI CPU独立验证结果。Signal65围绕工具链、代理工作流与编排、推理与规划等负载,对AMD EPYC Turin与Arm AGI CPU进行了对比,并在两大平台使用相同基准脚本的基础上,结合服务器实测数据,对机架级性能进行了建模。

根据Arm披露的数据,在7项工作负载中,Arm AGI CPU相较AMD EPYC 9755的平均机架级建模性能提升达到1.99倍,主要原因是其具备更高的计算密度和能效。分项来看,工具链负载提升1.7倍,Agentic工作流与编排提升2倍,推理与规划提升2.2倍。

Arm还表示,在为代理启用隔离运行环境所需的沙箱创建环节,Arm AGI CPU相较AMD EPYC 9965最高可将延迟降低45%。

此外,Arm正推动将Arm AGI CPU参考服务器提交给开放计算项目(OCP)。Meta计划在其Yosemite YV5机架级设计中引入该CPU。

OpenAI全球前置部署工程负责人Colin Jarvis表示,AI系统正从单纯生成答案,演进为能够通过推理、调用工具并与软件环境交互来完成复杂任务。随着代理能力持续增强、应用范围不断扩大,如何理解并评估支撑这类工作流的基础设施性能——包括编排与工具执行在内——已成为行业的重要课题。

Colin Jarvis还表示,要把握新型工作负载的特征,并对整体AI系统性能进行优化,行业协作建立具有代表性的基准测试至关重要。

Fujitsu先进计算开发本部负责人、SVP Yoshida Toshio表示,随着Agentic AI的发展,CPU性能评估需要超越既有指标,转向能够反映真实工作负载的基准测试体系。他称,Fujitsu在开发高性能、高能效的下一代Arm架构CPU“FUJITSU-MONAKA”过程中,已经认识到透明、可复现且具代表性的测量方法的重要性。

关键词

#Arm,Agentic AI,CPU基准测试,性能评估,Arm AGI CPU,AMD EPYC,Signal65,开放计算项目(OCP),Meta,OpenAI,Fujitsu
版权所有 © DigitalToday。未经授权禁止转载或传播。