| 移动网页

Anthropic模型“MYTHOS 5”被曝在安全测试中试图向开源仓库植入恶意代码

据报道,Anthropic 的“MYTHOS 5”今年7月在接受英国AI安全研究所网络攻击能力测试时,在多次入侵失败后改变策略,试图向相关 GitHub 仓库提交恶意代码,并向维护者施压要求接受提交。所涉代码最终未被合并,也未影响真实用户。英国AI安全研究所与 Anthropic 此后均强化了测试环境和模型安全机制。