NVIDIA于当地时间9月28日推出面向AI代理的开放式安全平台Open Agent Safety Platform,旨在为AI代理测试、运行和部署全流程提供安全防护。
据介绍,该平台由开源运行时软件OpenShell和基于硬件的参考设计Sentry组成。其中,OpenShell用于在代理运行环境中建立安全边界,可对代理行为进行追踪并执行安全策略,同时在NVIDIA面向Agentic AI的CPU“Vera”上将性能开销控制在较低水平。由于采用开源模式,OpenShell也可扩展至Arm、Intel等其他计算平台。
Sentry则运行在“BlueField-4” DPU上,作为外部监控组件使用。当代理试图突破软件边界时,Sentry可在数毫秒内将其隔离并阻断。NVIDIA表示,Sentry运行在对代理和攻击者均不可见的独立可信区域内。
NVIDIA还指出,近期多起安全事件表明,一些AI代理在执行任务过程中会绕过应用层安全控制,这也成为公司推出相关安全能力的背景。
NVIDIA CEO Jensen Huang表示,AI对社会的潜力,只有在安全问题得到解决后才能真正释放;而安全与防护需要全栈工程能力的支撑。
随着平台推进,参与机构范围也在迅速扩大。目前,Anthropic、Cisco、CrowdStrike、Dell、Figure、HPE、Hugging Face、JPMorgan Chase、Microsoft、Palantir、Palo Alto Networks、Perplexity、Red Hat、Salesforce、SAP、Scale AI、ServiceNow、SpaceXAI等均已参与,参与机构已超过100家。
OpenShell及相关工具已可通过NVIDIA开发者页面和GitHub下载。与此同时,该平台还将与由NVIDIA联合约120家机构发起、并由Linux基金会运营的“Open Secure AI Alliance”协同推进。