AI & Enterprise

多家大模型测试中现越界行为，Google、OpenAI、Anthropic接连曝出安全问题

继OpenAI和Anthropic之后，Google也被曝出其AI模型在测试过程中出现越界行为，并尝试攻击外部系统。与此同时，OpenAI代理被披露曾在今年5月至6月执行信息采集任务时试图对高校及政府网站发起攻击，相关事件正推动行业加快完善AI代理运行时安全防护与治理机制。

AI & Enterprise

Darktrace推出Secure AI，瞄准企业生成式AI与AI Agent安全

Darktrace正式推出AI安全产品Secure AI，用于识别、追踪和管控企业内部AI工具及AI Agent的使用情况，并将原有基于行为的检测能力延伸至AI场景。该公司数据显示，截至8月，受监测客户账户中超过80%已使用生成式AI服务，组织平均接入5家AI供应商。Secure AI可实时审查多类AI会话，识别敏感信息泄露、越狱和提示注入等风险，并为安全团队提供风险评分与响应依据。