Palantir产品安全团队近日在Medium博客发文,介绍了将Agentic AI引入安全工作的实践经验。
据介绍,自约一年前开始,该团队已将AI代理用于代码审查、漏洞挖掘、渗透测试等多类安全任务,并进一步将相关方法论产品化,以Security Forge形式对外提供。
在这篇文章中,Palantir将核心经验归纳为五个方面。
首先,单靠单一模型无法建立完整的安全审查体系,模型之外还需要一套“安全编排框架”。所谓编排框架,是指能够完成任务拆分、代理协同、权限控制、审计留痕,并最终将结果交付给工程师的一整套软件和规则体系。Palantir表示,其以自家平台AIP承担这一角色。
第二,编排框架能否发挥作用,取决于是否具备充分的组织级上下文。只有向模型提供服务依赖关系、信任边界、部署状态、历史审查结果以及责任人信息等背景数据,模型才能作出更准确的判断。Palantir称,这部分上下文主要通过数据平台Foundry进行整合。
第三,组织级上下文本身就是核心资产。Palantir强调,这些数据及相关决策记录不应向外泄露;一旦被外部模型厂商获取,不仅无助于提升组织自身的防御能力,反而可能帮助外部模型持续优化。Palantir还透露,公司已在全员范围内完成工具迁移,从前沿模型厂商的客户端转向自研工具。
第四,当前瓶颈已经从“发现漏洞”转向“修复漏洞”。Palantir认为,AI代理发现问题的速度已明显快于人工,真正的关键在于如何加快修复闭环。为此,该公司借助软件部署平台Apollo,将验证通过的修复方案自动下发并部署到整个系统。
第五,真正可沉淀的资产并不是模型本身,而是围绕模型建立起来的整套机制。文章指出,模型能力会持续迭代,如果缺少对发现结果的记录、对决策依据的留痕,以及对修复流程的发布机制,那么每次更换模型,都可能意味着从头再来。Palantir表示,Foundry、AIP和Apollo三大平台的组合,正是支撑这套体系运行的基础。
为便于其他组织参考,Palantir还给出了建议的实施路径:先梳理软件资产清单,再从小范围代码审查切入;随后围绕模型建立控制体系,对多种模型开展对比评估,并将关键决策持续沉淀为组织资产。