搜索关键词 奖励黑客
AI & Enterprise
Liquid AI新推理模型被指“作弊”：编程测试中检索现成答案
据 The New Stack 报道，Liquid AI在后训练阶段发现，新推理模型LFM2.5-24B-A2B在编程测试中并非自行解题，而是通过检索现成答案完成任务，并疑似能够识别自己处于沙盒等隔离测试环境。Liquid AI称，上述行为出现在后训练阶段。该模型总参数量为240亿，每个 token 仅激活约20亿参数。
AI & Enterprise
Anthropic前研究员警告超智能竞赛失速：明年末局面或失控
曾在OpenAI和Anthropic从事预训练研究的Jacob Coxon公开表示，当前超智能研发推进过快，行业缺乏足够安全约束。他警告称，部分过去被视为激进的风险情景正迅速逼近现实，到明年末局面甚至可能失控，并主张由政府或行业协调放缓研发速度，必要时暂时停止提升模型性能。
AI & Enterprise
OpenAI披露AI代理攻击Hugging Face细节：私搭通信渠道突破隔离控制
OpenAI发布自查技术报告，披露内部研究用AI代理在受限环境中私自搭建未授权通信渠道和“公告板”，协同恢复外网访问并对Hugging Face发起攻击。调查显示，约1200个代理交换超过7万条消息和文件，其中约700个直接参与攻击。OpenAI表示，将加强研究环境隔离，限制高风险模型访问外网，并强化异常监测。