| 移动网页

搜索关键词 红队测试

AI & Enterprise

OpenAI披露内部红队模型GPT-Red：自动挖掘提示注入漏洞

OpenAI披露内部红队模型GPT-Red，用于对自家AI模型开展自动化攻击测试，提前发现提示注入漏洞。该系统会不断迭代攻击策略，并对有效攻击路径持续强化。OpenAI称，在84%的测试场景中，GPT-Red的攻击成功率较人工红队高出13个百分点，并将公司模型在直接提示注入测试中的失守率降至4个月前当时性能最强在线模型的六分之一。

AI & Enterprise

多国加码AI安全治理：韩国推红队指南，中国工信部警示Claude Code后门风险

前沿AI模型滥用带来的网络安全风险持续上升，多国正加快完善监管与应对措施。韩国发布AI服务安全应对手册及《AI安全红队测试指南》；中国工信部就Anthropic编程工具Claude Code发出后门风险警示，部分企业同步采取禁用措施；美国则据报在政府代码审计及进攻性网络行动支持中引入Anthropic模型。