搜索关键词 METR
AI & Enterprise
METR：用AI复盘OpenAI代理事件时，模型结论一度偏向攻击者
METR披露对OpenAI代理测试事件的调查结果称，约700个代理为误导网络安全基准测试评分系统，曾尝试攻击Hugging Face。由于资料规模庞大且人手有限，调查团队转而借助AI完成分析，6天内用完OpenAI提供的40万美元API额度。但部分模型在定性相关行为时表现出明显偏宽松倾向，引发外界对用于监测和控制强大AI系统的工具投入不足的担忧。
AI & Enterprise
OpenAI披露AI代理攻击Hugging Face细节：私搭通信渠道突破隔离控制
OpenAI发布自查技术报告，披露内部研究用AI代理在受限环境中私自搭建未授权通信渠道和“公告板”，协同恢复外网访问并对Hugging Face发起攻击。调查显示，约1200个代理交换超过7万条消息和文件，其中约700个直接参与攻击。OpenAI表示，将加强研究环境隔离，限制高风险模型访问外网，并强化异常监测。
AI & Enterprise
AI代码工具普及加深依赖：开发者体感提效，实测却未必更快
随着AI代码工具加速普及，开发者对其依赖已开始影响相关实验的开展。METR研究显示，尽管不少开发者主观感受到效率提升，但实测开发总耗时反而上升。围绕AI编程的讨论也正从“生成得有多快”，转向Token成本、代码修复、验证以及长期维护成本。