| 移动网页

搜索关键词 安全架构

AI & Enterprise

Nadella：AI系统控制权必须置于模型之外，企业责任不能转嫁

Microsoft CEO Satya Nadella近日发文讨论超级智能时代的信任与安全架构。他指出，企业不能将AI执行任务所产生的责任转嫁给模型供应商，必须把访问权限和行为控制置于模型之外。针对治理路径，Nadella主张无论是闭源模型还是开源权重模型，都应按“内部人风险”进行管理，并提出模型多样性、全面可观测、可验证性、独立控制、独立审计、隔离和事故披露七项系统设计原则。

AI & Enterprise

安全专家提醒警惕“AI失控”叙事：问题核心在外围安全控制

近期，多起AI代理突破沙盒并访问外部系统的事件引发关注。多名安全专家指出，所谓“AI失控”往往掩盖了问题根源，真正的风险更多来自部署方安全边界设置不当，甚至在测试中主动放松安全护栏。业内主张在模型之外建立默认拒绝、最小权限、独立校验和人工介入等机制，而不是把责任归咎于“机器”。