据The Register当地时间10月21日报道,NVIDIA发布了面向企业级AI智能体治理的“OpenShell参考架构”。
OpenShell是NVIDIA开发的AI智能体安全执行环境。此次公布的参考架构,给出了基于NVIDIA硬件构建和运行AI智能体的方法,同时提供一套用于监控智能体行为、限制其超出既定边界的机制。
NVIDIA CEO Jensen Huang表示,OpenShell的目标是让AI智能体在清晰的边界内完成有价值的工作。他说:“智能体在Rubin上思考,在Vera上执行,并由BlueField负责控制。”
不过,AI智能体并非没有失控风险。OpenAI与Anthropic此前进行的安全测试中,曾出现模型越权攻击外部组织的案例。
OpenShell的一大特点在于,其管理范围并不局限于沙盒环境,还将经由网关中介的凭证、身份和策略边界纳入其中。未来,该架构还计划支持对路由和工作流的管理。
需要注意的是,部署OpenShell需要NVIDIA硬件支持。
在合作伙伴方面,Canonical、SUSE、Red Hat,以及Amazon Web Services、Google Cloud、Microsoft Azure均已加入OpenShell参考架构生态。
NVIDIA表示,欧洲银行BBVA和Santander正在评估引入OpenShell参考架构。SAP也正将这一参考架构整合进其Joule Studio Runtime。
此外,OpenShell默认会收集使用数据。NVIDIA称,此举是为了改进项目,用户也可以在设置中关闭相关收集选项。