随着AI应用加速落地,行业对新型安全风险的关注持续升温。参与应对的主体也不再局限于传统安全厂商,半导体企业、云平台和AI公司正加快协同,推动跨行业安全联动从讨论走向落地。
由NVIDIA牵头成立的开放式安全人工智能联盟(OSAA)在成立一周内便组建了首个工作组SAFE(Shared AI Findings Exchange),并对外发布AI安全事件响应建议。相关建议涵盖AI网络安全事件的保密上报机制、受影响方通知流程,以及将事后复盘重点由责任追究转向经验总结的分析机制。整体来看,这份提案并未引入重大技术变更,而是优先推动建立行业通用的事件响应规则。
在AI企业安全事件透明度方面,Hugging Face CEO Clem Delangue近日表示,应强制披露针对AI企业的黑客攻击事件。他认为,与限制强大模型开源相比,建立公开透明的事故披露制度更为关键。
这一表态的背景,是外界对先进AI模型被滥用、AI代理越权操作以及由此引发非预期事件的担忧不断加剧。此前有报道称,OpenAI处于测试阶段的AI代理曾尝试入侵开源AI模型共享平台Hugging Face。另据两家独立测试机构披露,Anthropic与OpenAI的顶级模型上月曾尝试入侵第三方系统,且部分案例被确认实际得手;测试过程中,Anthropic与Meta的AI模型也出现了实施黑客攻击的情况。
安全机构也在同步上调风险预期。CrowdStrike在《2026威胁狩猎报告》中指出,AI正从攻击工具转变为直接攻击目标,漏洞被利用的时间窗口已缩短至按小时计算。Gartner则预计,到2029年,多数个人信息泄露事件将不再主要源于个人可识别信息(PII)的直接外泄,而将来自AI基于个人数据进行关联分析后得出的推断结果。
除模型被用于攻击外,AI系统自身存在的安全漏洞同样引发更多担忧。OpenAI测试中的AI代理尝试入侵Hugging Face事件后,围绕主流企业AI工具潜在漏洞的讨论仍在持续升温,相关案例也不断出现。
与此同时,海内外企业近期也在AI与网络安全领域加快布局。
韩国企业方面,LG Uplus已收购托管检测与响应(MDR)解决方案公司Pagonetworks,计划将后者的威胁检测、分析与响应能力纳入自身体系,以升级公司整体安全能力,并扩大面向企业客户的安全业务。与此同时,LG Uplus统一账号管理服务“Alpha Key”已获得云服务安全认证(CSAP)SaaS标准级认证。
RSUPPORT已与网络物理系统(CPS)安全厂商NNSP达成合作,拟共同挖掘可应用于国家网络安全体系(N2SF)及工业控制网络的远程支持业务模式。ATON则与韩国互联网振兴院(KISA)签署业务合作备忘录。作为恶意短信事前拦截体系的专业解决方案厂商,ATON将向互联网短信发送服务商提供相关预拦截体系,并出具办理特殊增值电信业务登记所需的导入确认书。
Naru Security将承担KISA推进的“地区入侵事故受害企业检测及漏洞诊断”项目。Epson Korea与安全解决方案企业Nexpot Solution签署MOU,双方将合作拓展防伪安全标签市场,并开发高附加值标签解决方案。网络安全企业Theori则已向Woori Financial Group供应其AI“黑盒”渗透测试解决方案“Xint Web”。
此外,Korea Quantum Computing(KQC)已与德国网络安全及信息管理软件企业Data-Warehouse GmbH签署战略合作MOU,计划推进后量子密码(PQC)迁移平台业务。XGATE表示,其AI战略重点不在于开辟全新赛道,而是进一步强化既有优势领域的竞争力。ESTsecurity则已获得亚马逊云科技(AWS)合作伙伴网络(APN)“Select Tier”级别资格,今后将重点发力云安全和AI安全业务。
国际厂商方面,AWS已将代码漏洞检测服务“AWS Continuum”接入Anthropic和OpenAI的AI编程工具,用户可直接在相关编码工具中完成漏洞检测。F5宣布与NVIDIA NeMo Guardrails完成集成,并推出AI原生方案“F5 AI Guardrails”,面向实际运行阶段的AI应用提供企业级安全能力。
Palo Alto Networks也同步发布面向前沿AI时代的网络安全研究成果和新产品。ServiceNow在收购AmiS与Baza后,推出6款自治式安全产品及AI安全代理产品线,支持在分析师无需逐步介入的情况下,将漏洞处置和事件响应推进至闭环处理阶段。
Tera Security则新增“Prevention”功能,可自动生成防火墙规则,用于拦截已被AI代理验证有效的攻击手法。