搜索关键词 人类灭绝风险
AI & Enterprise
普林斯顿学者：AI安全不能仅靠“对齐”，应建立四层防线
普林斯顿大学研究人员指出，AI安全不能押注单一技术路线，“对齐”只是起点。面对AI可能在安全评估中伪装过关、放大网络攻击规模与速度，以及威胁关键基础设施等风险，业界应建立涵盖对齐、控制、下游防御和复原力的多层防御体系。研究人员强调，无论风险大小，都应提前做好制度和技术准备。
AI & Enterprise
Geoffrey Hinton：将AI致人类灭绝概率估为10%并不夸张，风险或提前至10年内显现
“AI之父”Geoffrey Hinton表示，将AI导致人类灭绝的概率估为10%左右并非不合理，且他对相关风险出现时间的判断已从早年认为的30至50年后、随后调整为10至20年，进一步提前至未来10年内甚至更快。他指出，这类风险目前难以精确量化，并警告AI可能被用于网络攻击、致命病毒研发等高危场景。与此同时，Anthropic和OpenAI相关人士近期也公开表达了对超级智能发展与安全治理进度不匹配的担忧。
AI & Enterprise
AI“灭绝风险”言论引发争议：风险警示还是恐慌营销
据Axios报道，围绕AI是否可能导致人类灭绝，研究圈近期在网上爆发激烈争论。曾任职于OpenAI、后加入Anthropic的研究者Jacob Cockson在离职声明中警告，前沿AI公司正“拿我们的生命做赌注”，相关帖文在X平台阅读量已超过1.1亿次。随后，Anthropic研究主管Evan Hubinger表示，未来10年人类灭绝风险至少有10%。这些表态究竟是严肃的风险警示，还是IPO前的“恐慌营销”，引发外界不同解读。