随着企业AI代理开始进入生产环境，单靠现有安全与权限管理体系，已越来越难实现有效管控。

据SiliconANGLE当地时间5日报道，安全厂商Rubrik发布“Rubrik Agent Identity”，可按工具调用这一更细粒度的单位控制代理访问权限，并提出自主型AI代理需要独立于传统授权体系之外的控制层。

Rubrik AI业务负责人Dev Rishi表示，AI代理带来的安全问题，与人类账户或服务账户并不相同。其底层架构结合了具备非确定性特征的模型能力与联邦身份体系，使得传统软件安全中的许多既有前提已难以直接适用。

这类风险的关键在于，代理的每一步操作都可能落在已获授权范围内，但多个看似合规的动作组合起来后，仍可能引发安全问题。比如，代理可以先从Salesforce提取数据，再将其中的敏感内容写入外发邮件。单看这两步都属于被允许的操作，但连贯执行后就可能造成风险外溢。

为弥补这一短板，Rubrik表示，公司引入了名为“Sage”的小型语言模型，让其按照网络安全专家的判断逻辑识别风险行为。不过，Rishi也指出，AI代理在同一时间内可完成的工作量可达人类的10倍，若仍依赖人工逐项审批，已难以满足实际治理需求。

在代理治理层面，业内通常将“可观测性”视为起点。但Rubrik认为，在大规模部署环境下，海量原始遥测数据本身也会带来新的处理负担。该公司称，其内部运营每天会产生数万亿个token，要从中识别风险信号并发现成本快速上升区间，还需要额外的智能分析层。

这一案例表明，AI代理安全并不是“完成授权”就能解决的问题。企业接下来需要同时管理代理的单次行为、行为组合、成本集中度以及整体运营可视性。

在韩国本土，AI代理的落地案例也在不断增加。Kakao计划建设一个可集中搜索和调用AI代理的平台，形态类似应用商店，允许各类AI代理及工具完成注册和验证，并支持用户按需查找、组合相关功能，进而形成生态体系。

按照这一设想，用户未来有望无需切换应用，就能在KakaoTalk聊天窗口中通过AI获得餐食推荐，并直接完成下单和支付。不过，在这类服务进一步联动的过程中，其安全性和权限管控问题仍需谨慎评估。