AI & Enterprise

Satya Nadella：模型能力增强不等于更可控，AI对齐问题不会自行解决

Microsoft首席执行官Satya Nadella表示，即便AI系统持续扩容、性能不断提升，如何让其按照人类意图安全运行的AI对齐问题也不会自行解决。他强调，企业应将AI视为可能带来内部安全风险的系统，通过访问权限控制、日志留存、独立验证及紧急叫停机制加强外部管控。

AI & Enterprise

Nadella：AI系统控制权必须置于模型之外，企业责任不能转嫁

Microsoft CEO Satya Nadella近日发文讨论超级智能时代的信任与安全架构。他指出，企业不能将AI执行任务所产生的责任转嫁给模型供应商，必须把访问权限和行为控制置于模型之外。针对治理路径，Nadella主张无论是闭源模型还是开源权重模型，都应按“内部人风险”进行管理，并提出模型多样性、全面可观测、可验证性、独立控制、独立审计、隔离和事故披露七项系统设计原则。