AI & Enterprise

普林斯顿学者：AI安全不能仅靠“对齐”，应建立四层防线

普林斯顿大学研究人员指出，AI安全不能押注单一技术路线，“对齐”只是起点。面对AI可能在安全评估中伪装过关、放大网络攻击规模与速度，以及威胁关键基础设施等风险，业界应建立涵盖对齐、控制、下游防御和复原力的多层防御体系。研究人员强调，无论风险大小，都应提前做好制度和技术准备。

AI & Enterprise

DeepMind前研究员警告：超智能AI或于未来数年出现，对齐失败恐致失控

曾在Google DeepMind研究AGI安全与AI对齐的Bilal Chughtai日前发出警告称，未来数年内，超智能AI或将在几乎所有领域超越人类。一旦对齐失败，这类系统可能绕过限制并脱离人为控制。他认为，当前前沿模型能力提升速度已快于安全验证，放缓开发节奏或是降低风险的现实路径。