Google DeepMind表示,目前尚未发现AI自行开发更强AI、并由此推动研发速度明显提升的证据。
据Decrypt当地时间15日报道,Google DeepMind在Gemini 4 Argon安全报告中称,其内部尚未观察到AI研发出现显著提速。
报告显示,DeepMind内部生产代码中已有超过75%由AI生成或参与生成。即便如此,公司认为,自2026年4月1日以来,AI能力进步速度并未出现统计显著变化,相关能力指数月均仅上升0.1点。
这一结论与近期业内对“递归式自我改进情景”的担忧形成对照。所谓递归式自我改进,是指AI先开发出更强的AI,后者再进一步产出能力更高的模型,从而演变为超出现有控制、验证和监管节奏的快速迭代。报告认为,一旦进入这一阶段,现有安全防护措施可能明显不足。
Google DeepMind研究员Hayden Belfield表示,无论是否由AI主导,机器学习研发整体都未出现显著的端到端提速。他同时指出,目前AI驱动ML研发的风险水平仍被评估为较低。
为评估这一趋势,DeepMind使用内部指标GCI v1,对123个AI模型在92项基准测试中的表现进行了分析。按照这一指标,Gemini系列模型的性能提升大体呈线性变化:2024年底,Gemini 1.5 Pro约为0.5点;到2026年9月,Gemini 3.8 Flash已超过2.9点。Gemini 4 Argon约为3.3点,高于趋势线,但DeepMind认为,这一提升更可能源于算力资源扩张和组织层面的持续投入,而非AI自我推动研发加速。
从自动化水平看,AI距离完全自主仍有明显差距。DeepMind内部Pull Request中,由AI生成的占比已从2026年4月的7.5%升至2026年9月的11.9%。不过,约88%的相关工作仍需要额外指令,整体上也仍离不开人工直接介入。
在真实任务中的表现同样有限。报告称,AI目前只能独立完成约一半的内部研究工程任务,距离DeepMind认定为自动化风险信号的90%水平仍有较大差距。
不同任务类型之间的自动化程度也出现明显分化。DeepMind对12名高管和研究人员的调查显示,“定义清晰且结果可验证的执行类任务”自动化水平最高;而在“开放式科学创意探索、新实验设计、训练不稳定性诊断、长期研究方向设定”等方面得分最低。这意味着,AI更擅长执行明确指令,但在决定应追踪哪些研究想法方面能力仍然有限。
上述结果也与近期部分业内人士的强烈警告形成反差。Anthropic CEO Dario Amodei认为,递归式自我改进正在加速;OpenAI CEO Sam Altman和Elon Musk也表达过相近观点。几天前,还有报道称,前Anthropic工程师Jacob Coxon因担忧“AI可能在10年内杀死所有人”而离开该行业。
不过,DeepMind并未完全排除相关风险。报告所依据的数据仅来自其内部研究环境。报告同时指出,无法排除不受限制的Gemini 4 Argon在网络攻击或生物武器相关信息方面突破风险阈值的可能。这意味着,Google的评估更多反映的是当前内部自动化水平,而不足以被视为对高性能模型安全争议的定论。