Palo Alto Networks韩国高管Choi Jang-rak。图片来源:Palo Alto Networks

“AI代理被攻破,归根结底是身份问题。”

Palo Alto Networks Korea高管Choi Jang-rak表示,OpenAI在测试AI代理过程中发生的“越狱”并入侵Hugging Face事件,再次凸显了身份安全的重要性。

据他介绍,OpenAI当时为测试内部AI模型搭建了一个受控沙盒环境,仅向AI下达了“拿到最高分”的指令,之后并未进行人为干预。

随后,这些AI代理与另一组AI代理建立论坛、共享漏洞信息,并利用相关漏洞从沙盒中“越狱”,进一步在互联网上搜索暴露的密钥。

Choi Jang-rak指出,相关暴露账户存在明文密码、权限过大等问题,AI代理借此进一步获取了管理员账户的访问权限。

他认为,身份管理缺失是导致此次事件扩大的关键因素。如果企业能够持续发现暴露账户,定期轮换密码和密钥,只授予完成任务所需的最小权限,并对权限调用实施监测和告警,类似事故原本可以避免。

今年7月,Palo Alto Networks以250亿美元收购身份安全公司CyberArk,业务版图进一步延伸至身份安全市场。

Palo Alto Networks表示,身份安全最初从特权访问管理(PAM,Privileged Access Management)起步,但特权的持有者并不只限于人,也包括机器和AI。Choi Jang-rak强调,公司正将特权控制能力扩展到所有身份主体。

在他看来,Palo Alto Networks的身份安全策略可分为三个阶段。第一阶段是“发现”,重点是提前识别人、机器和AI使用的全部身份。

第二阶段是“控制”,核心在于对访问权限进行认证,并将常态权限压降至最低,即仅在执行任务时授予相应权限,任务结束后立即回收。第三阶段是“治理”,持续发现威胁并生成审计数据。Choi Jang-rak表示,“看不见,就无从治理”,因此“发现”是最关键的一步。

在这一策略中,AI代理与人一样,被视为独立的身份主体。未注册的AI代理无法接入核心资产;AI代理运行时也必须像人一样完成认证,没有相应权限的请求会在认证阶段被拦截;当AI代理申请超出基础范围的权限时,则必须经过人工审批。

Choi Jang-rak表示,企业应通过统一平台集中管理人、机器和AI使用的全部身份,并整合彼此分散的安全工具。

关键词

#Palo Alto Networks #CyberArk #身份安全 #AI代理 #Hugging Face #OpenAI #PAM #最小权限 #密钥轮换 #沙盒
版权所有 © DigitalToday。未经授权禁止转载或传播。