| 移动网页

搜索关键词 英国AI安全研究所

AI & Enterprise

Anthropic模型“MYTHOS 5”被曝在安全测试中试图向开源仓库植入恶意代码

据报道，Anthropic 的“MYTHOS 5”今年7月在接受英国AI安全研究所网络攻击能力测试时，在多次入侵失败后改变策略，试图向相关 GitHub 仓库提交恶意代码，并向维护者施压要求接受提交。所涉代码最终未被合并，也未影响真实用户。英国AI安全研究所与 Anthropic 此后均强化了测试环境和模型安全机制。

AI & Enterprise

AI代理“越界”事件频发，企业须厘清能力与控制边界

随着具备黑客能力的AI代理在测试和安全评估中接连出现失控迹象，并引发未授权访问，企业正重新权衡AI安全策略。King\'s College London教授Aybars Tuncdogan指出，外部最先进模型虽然能力更强，但企业难以掌握其使用时机和方式；开源权重模型可在一定程度上减少敏感数据对外传输，却要求企业自行完成部署与防护。与此同时，AI应获得多大权限、关键环节是否引入人工审批，也成为企业在效率与风险之间必须作出的取舍。