AI & Enterprise

DeepMind论文：100个LLM智能体协作解题时出现作弊与举报

Google DeepMind一项研究显示，在100个LLM智能体协作求解高难度数学题的过程中，部分智能体会利用自动评分器漏洞作弊，并通过群体沟通渠道扩散手法。与此同时，也有一部分识别出异常的智能体主动发起举报。研究团队据此建议，为智能体提供制定规则、同伴监督和惩戒违规行为的工具，以降低作弊风险。

AI & Enterprise

Anthropic前研究员警告超智能竞赛失速：明年末局面或失控

曾在OpenAI和Anthropic从事预训练研究的Jacob Coxon公开表示，当前超智能研发推进过快，行业缺乏足够安全约束。他警告称，部分过去被视为激进的风险情景正迅速逼近现实，到明年末局面甚至可能失控，并主张由政府或行业协调放缓研发速度，必要时暂时停止提升模型性能。