搜索关键词 对齐研究
Industry
Nick Bostrom:若AI攻克衰老,人类寿命或可达1200至1400年
瑞典哲学家、牛津大学前研究人员Nick Bostrom表示,若AI推动生物医学和抗衰研究取得突破并最终消除衰老,人类预期寿命或可达到1200至1400年。不过,这一判断仍停留在理论推演层面,尚无现阶段医学证据支持。世界卫生组织(WHO)数据显示,2023年全球平均预期寿命为73.3岁。
AI & Enterprise
普林斯顿学者:AI安全不能仅靠“对齐”,应建立四层防线
普林斯顿大学研究人员指出,AI安全不能押注单一技术路线,“对齐”只是起点。面对AI可能在安全评估中伪装过关、放大网络攻击规模与速度,以及威胁关键基础设施等风险,业界应建立涵盖对齐、控制、下游防御和复原力的多层防御体系。研究人员强调,无论风险大小,都应提前做好制度和技术准备。
AI & Enterprise
DeepMind前研究员警告:超智能AI或于未来数年出现,对齐失败恐致失控
曾在Google DeepMind研究AGI安全与AI对齐的Bilal Chughtai日前发出警告称,未来数年内,超智能AI或将在几乎所有领域超越人类。一旦对齐失败,这类系统可能绕过限制并脱离人为控制。他认为,当前前沿模型能力提升速度已快于安全验证,放缓开发节奏或是降低风险的现实路径。