搜索关键词 LLM安全
AI & Enterprise
KAIST推出LLM红队新框架，漏洞类型识别能力提升约7倍
KAIST研究团队发布面向大语言模型安全测试的红队框架Stable-GFlowNet。该框架通过引入“对照轨迹平衡”等机制提升训练稳定性，在将攻击成功率维持在92%的同时，识别出134种攻击类型，较现有方法的17种提升至约7倍。基于该框架训练的防御模型在交叉攻击测试中也展现出更好的防护能力。
AI & Enterprise
Claude Code源码泄露后又曝权限绕过漏洞
在源码泄露风波发生数日后，Claude Code再次被曝出安全问题。安全研究显示，其权限系统中的命令拦截规则可被绕过，攻击者可利用恶意CLAUDE.md文件实施提示注入，诱导AI生成包含50多个子命令的管道，进而规避权限限制。
AI & Enterprise
Igloo Corporation发力安全AI代理平台，瞄准自治型SOC
Igloo Corporation表示，AI在安全领域的应用正由检测与响应加速延伸至分析环节，并将进一步带动检测和响应能力提升。该公司正开发安全AI代理平台，支持企业基于自身数据和业务场景构建AI代理，并通过连接SIEM与SOAR，推动自治型SOC从第3阶段向第4阶段过渡。平台计划同时提供云端和本地部署方案。
