搜索关键词 Geoffrey Hinton
AI & Enterprise
AI研发自动化或催生“智能爆炸”，研究人员警示能力跃升可能按月出现
多名AI研究人员警告，随着前沿AI公司推进研发自动化，AI能力可能出现快速跃升，甚至引发所谓“智能爆炸”。GovAI研究员Allan Chan表示，一旦AI能够自主开发未来的AI模型，研发迭代速度将进一步加快。论文作者据此呼吁政策部门加强对相关公司的了解，并推动建立嵌入式审计等约束机制。
AI & Enterprise
OpenAI、Anthropic等研究高管联名示警：AI自动化或触发“智能爆炸”
据《华尔街日报》报道，OpenAI、Anthropic、Meta、Microsoft等公司的研究领域高管在一篇最新论文中警告，AI研究自动化可能引发“智能爆炸”，使原本需要数年推进的研发在数月内完成，甚至快到超出人类理解与跟进能力。作者呼吁政策制定者尽快评估企业AI研发自动化程度，并推动建立国际协议。
AI & Enterprise
Geoffrey Hinton：将AI致人类灭绝概率估为10%并不夸张，风险或提前至10年内显现
“AI之父”Geoffrey Hinton表示，将AI导致人类灭绝的概率估为10%左右并非不合理，且他对相关风险出现时间的判断已从早年认为的30至50年后、随后调整为10至20年，进一步提前至未来10年内甚至更快。他指出，这类风险目前难以精确量化，并警告AI可能被用于网络攻击、致命病毒研发等高危场景。与此同时，Anthropic和OpenAI相关人士近期也公开表达了对超级智能发展与安全治理进度不匹配的担忧。
