Red Hat标识。

Red Hat宣布启动开源社区项目“asago”(AI Safety and Governance Orchestration),目标是将AI治理政策中的文本要求自动转化为可执行的控制项和部署配置。SiliconANGLE于4日(当地时间)报道称,asago的核心在于打通治理政策与AI系统实际部署之间的衔接。

asago试图把原本分散在合规团队、数据科学家和基础设施管理员之间的流程串联起来。根据Red Hat的介绍,该项目可自动完成政策解读、风险评估、安全措施推荐和部署配置生成,并保留可追溯的审计记录,以说明每一项控制措施对应的具体政策依据。

Red Hat表示,随着企业从生成式AI试点逐步转向长期运行的系统,并开始引入智能体(Agent),市场对这类治理能力的需求正在上升。公司指出,要把治理要求进一步落实为工程落地所需的测试机制、安全护栏和基础设施配置,难度正不断增加。

Red Hat还称,如果仍依赖人工解读政策并编写定制脚本,不仅会拖慢部署进度,也会放大出错风险。

据介绍,asago采用四个阶段的标准化平台和工作流运行。首先,系统会解读组织内部的治理政策,并将其映射到相关标准框架,包括美国国家标准与技术研究院(NIST)AI风险管理框架、开放式Web应用安全项目(OWASP)大语言模型应用Top 10,以及欧盟《AI法》(AI Act)等。在这一阶段,项目将使用IBM AI Risk Atlas。

随后,asago会针对具体应用场景生成并执行风险与安全测试;再根据测试结果推荐相应的缓解措施和安全护栏,并保留对应的政策依据;最后再将这些控制措施转化为可直接用于混合云与Kubernetes环境的部署配置,生成适用于Kubernetes、Terraform和Ansible的配置文件。

IBM Research AI平台副总裁Priya Nagpurkar表示,AI要在真实环境中获得信任,离不开可量化的测试和运营控制。她还称,IBM正通过asago社区投入相关专业能力,以缩小治理框架与已部署AI系统之间的差距。

asago的参与方包括Red Hat、Alquimia AI、Brave Software、Evil Evil Coalition、IBM Research、奥地利Interdisciplinary Transformation University、Microsoft、MIT Lincoln Laboratory、North Carolina State University、NVIDIA以及Alan Turing Institute。该项目建立在Red Hat与NVIDIA此前通过Open Secure AI Alliance推进的工作基础之上,软件将以Apache License 2.0协议开源,目前仍处于项目早期建设阶段。

关键词

#Red Hat #asago #AI治理 #AI安全 #合规 #混合云 #Kubernetes #Terraform #Ansible #Apache License 2.0
版权所有 © DigitalToday。未经授权禁止转载或传播。