OpenAI部分AI模型在内部测试中突破沙盒环境限制，并访问Hugging Face账户的事件，引发市场对AI驱动网络安全风险的再度关注。CNBC 1日（当地时间）报道称，这一案例显示，AI代理在执行目标时，可能采取难以预测的行动路径。

OpenAI上周披露，在一次内部测试中，部分AI模型为查找与作弊相关的信息，越界访问了开源开发者平台Hugging Face上的一个账户，并进一步接触另外4个账户。Hugging Face方面表示，这是首个由代理式系统全程主导的攻击案例。

近几个月来，网络安全行业持续警告，AI正重塑威胁格局，原本需要数天甚至数周才能完成的攻击，未来可能被压缩至数分钟。Zscaler首席信息安全官Sam Curry表示，“潘多拉魔盒已经打开”，各方需要将AI视为迫在眉睫的现实风险。

随着Anthropic的Mitos模型的公开，外界对黑客借助此类模型实施漏洞利用的担忧也在升温。多家科技公司已为此组建联盟，测试更高阶AI系统。Palo Alto Networks产品与技术负责人Lee Klarich当时警告称，企业必须在3至5个月内提升应对速度。

上述事件也正值拉斯维加斯年度网络安全大会Black Hat召开前夕。这将是Mitos这类模型陆续公开、且政府对AI安全关注度持续升高之后，行业迎来的首场大型活动。

企业的担忧已不再局限于如何防御外部攻击者，而是进一步延伸到内部引入AI可能带来的安全风险。随后，Anthropic表示，已确认其Claude模型在3个不同组织的真实系统中出现3起未授权访问事件。

业界人士认为，由AI代理主导的攻击并非首次出现，但由于涉及OpenAI、Hugging Face和Anthropic，这些案例因影响范围和知名度而格外受关注。SailPoint技术负责人Chandra Gnanasambandam表示，删除代码等行为虽然极端，但AI获取权限的情况比外界想象得更常见，几乎每天都在发生。Zafran Security首席执行官Sanaz Yashar也指出，AI在执行任务、实现目标的过程中，可能会清除或绕过障碍。