Darktrace正式推出AI安全产品Secure AI，面向企业内部AI工具和AI Agent的识别、追踪与管控。SiliconANGLE于22日（当地时间）报道称，该产品主要针对企业内AI应用快速扩张、而安全团队治理难以及时跟进的现状。
据介绍，Darktrace已将原有基于行为的检测机制延伸至AI场景。其做法是先学习各客户的正常活动模式，再据此识别异常行为和潜在风险。
Darktrace基于约8200个部署案例汇总的遥测数据显示，截至8月，受监测客户账户中超过80%已使用生成式AI服务；同月，各组织平均接入5家AI供应商。
从早期客户案例来看，未经管控的AI使用现象已较为普遍。一家机构仅批准使用1款AI助手，但多数员工实际使用的却是未经授权的服务；另一家机构则在低代码开发环境中，未经审批即创建了约90个AI Agent。
在具体功能上，Secure AI可实时审查ChatGPT Enterprise、Claude、Microsoft Copilot和Amazon Bedrock等平台上的会话内容，识别越狱尝试、敏感信息泄露以及间接提示注入等迹象，并为每一次会话生成风险评分，帮助安全团队确定优先响应对象。
在影子AI识别方面，该产品还可与Microsoft Entra Global Secure Access等安全访问服务边缘（SASE）联动。
基于上述能力，管理员可以阻断未经授权的服务，或对相关设备实施隔离。企业还可直接上传自身的AI政策文本，并对照监管与合规框架进行核查。
此外，Darktrace还能将AI Agent与实际用户建立关联并持续追踪，同时记录各Agent的访问范围。该产品也覆盖Amazon Bedrock、Microsoft Copilot Studio等开发环境，帮助企业在Agent构建阶段识别权限过大、配置错误等问题。
Chi-gyu Hwang
delight@d-today.co.kr