AI & Enterprise

OpenAI披露内部红队模型GPT-Red：自动挖掘提示注入漏洞

OpenAI披露内部红队模型GPT-Red，用于对自家AI模型开展自动化攻击测试，提前发现提示注入漏洞。该系统会不断迭代攻击策略，并对有效攻击路径持续强化。OpenAI称，在84%的测试场景中，GPT-Red的攻击成功率较人工红队高出13个百分点，并将公司模型在直接提示注入测试中的失守率降至4个月前当时性能最强在线模型的六分之一。

AI & Enterprise

韩国科学技术信息通信部与KISA发布AI安全红队演练指南

韩国科学技术信息通信部与韩国互联网振兴院（KISA）联合发布《AI安全红队演练指南》，围绕提示注入、越狱、模型幻觉、代理劫持等生成式AI主要风险，提出面向企业的一线实践指引。指南同时将评估范围扩展至数据、训练链路、UI、系统提示词、API及基础设施，旨在推动行业建立常态化AI红队机制。