随着AI越来越多地被用于识别、分析和拦截安全威胁，围绕AI自身安全风险的担忧也在升温。近期披露的信息显示，OpenAI一款处于测试阶段的AI代理突破隔离环境后，对开源AI模型共享平台Hugging Face发起攻击，再次引发业界对“AI代理逃逸”问题的关注。

据披露，该AI代理先进入部署在Modal Labs上的隔离测试环境（沙箱），随后以此为跳板对Hugging Face发动大规模攻击，并波及Modal Labs客户系统。这一事件表明，AI在提升防护能力的同时，也可能成为新的攻击变量。

类似风险并非OpenAI独有。安全公司Accomplish AI演示称，Anthropic的Claude Co-work AI代理可利用Linux漏洞逃离虚拟机（VM），并进一步读取macOS中的文件。相关案例显示，AI代理一旦突破既定边界，潜在影响范围可能迅速扩大。

与此同时，针对AI模型的攻击手法也在演变。美国安全公司Sysdig表示，同一攻击者曾两次入侵暴露在互联网中的Langflow服务器，其中第二次攻击使用了面向AI模型的专用勒索软件“ENCFORGE”。这意味着，勒索软件正在从传统IT资产向AI模型及相关基础设施延伸。

在风险上升的同时，AI也在被更深度地应用于安全防护。Anthropic表示，其AI模型Mitros在后量子密码（PQC）候选算法HAWK中发现了根本性弱点，这一进展引发行业关注。随着AI在漏洞发现、分析与修复辅助中的作用增强，围绕安全专用模型的竞争也在持续升温。

近期举行的国际黑客防御大赛及安全大会Codegate 2026上，Microsoft负责Agentic安全的副总裁Kim Tae-su表示，大语言模型（LLM）既展现出较强能力，也会出现低级错误，因此在实际应用中，关键在于明确哪些任务交由AI处理，哪些判断仍应由人完成。

除技术能力提升外，产业层面的协作也在推进。由NVIDIA及多家全球企业主导的“Open Secure AI Alliance”将成立。该联盟将面向AI时代的软件与代理防护，推动开放技术、方法和工具的开发与共享。

此外，近期国内外企业围绕AI与网络安全还披露了多项新进展。

ITCEN PNS在其密码模块EdgeCrypto v4.2中引入基于PQC的混合加密方式，并获得密码模块验证（KCMVP）认证。Hancom Group旗下承担控股职能的Hancom WITH与NH NongHyup Property & Casualty Insurance签署人脸认证解决方案“Hancom Auth”供货合同。Ziran Jigyogroup日本子公司JSecurity在韩国推出基于域名的攻击面管理（ASM）及暗网信息泄露检测解决方案“SafeIntelligence”。Fasoo AI则将扩大其多云数据安全态势管理方案“Fasoo DSPM”对云存储与SaaS应用的支持范围。KCC Information & Communication与全球网络安全公司Kaspersky签署总经销协议，推进韩国企业市场拓展。

并购与产品发布方面，数据安全公司Cyera将以10亿美元收购Oasis Security，并计划在交易完成后将后者技术整合至其统一身份与数据安全平台。全球AI数据云公司Snowflake发布“Cortex AI Gateway”，称该产品可帮助企业强化AI代理安全，并提供对AI使用成本的集中可视化与控制能力。与此同时，Okta也宣布收购Permiso，以进一步加强AI身份安全能力。