AI & Enterprise

AI“灭绝风险”言论引发争议：风险警示还是恐慌营销

据Axios报道，围绕AI是否可能导致人类灭绝，研究圈近期在网上爆发激烈争论。曾任职于OpenAI、后加入Anthropic的研究者Jacob Cockson在离职声明中警告，前沿AI公司正“拿我们的生命做赌注”，相关帖文在X平台阅读量已超过1.1亿次。随后，Anthropic研究主管Evan Hubinger表示，未来10年人类灭绝风险至少有10%。这些表态究竟是严肃的风险警示，还是IPO前的“恐慌营销”，引发外界不同解读。

AI & Enterprise

DeepMind论文：100个LLM智能体协作解题时出现作弊与举报

Google DeepMind一项研究显示，在100个LLM智能体协作求解高难度数学题的过程中，部分智能体会利用自动评分器漏洞作弊，并通过群体沟通渠道扩散手法。与此同时，也有一部分识别出异常的智能体主动发起举报。研究团队据此建议，为智能体提供制定规则、同伴监督和惩戒违规行为的工具，以降低作弊风险。