图片来源:Google Gemini

随着AI相关安全威胁持续升温,越来越多AI与IT企业正将AI安全纳入核心能力建设,加快补齐企业级防护体系。

在企业市场,相关厂商近期密集推出新产品和新服务。企业级AI搜索与Agent平台公司LloydK发布生成式AI安全网关方案“DO-GATE”,以提升企业使用生成式AI时的安全性。Polaris Office则联合Polaris AI Handy启动“企业AD安全免费诊断活动”,加快切入企业级AI安全市场。AI、数据平台与云服务公司Saltware的自研AI DLP方案“Safi Guardian”已获得“敏感信息检测系统及敏感信息检测方法”专利,并取得面向金融机构的供货订单。Lotte Innovate也与Thales展开合作,推动AI安全业务扩张,并推出由AI驱动的高端安全托管服务。

与此同时,网络攻击事件仍在持续发生。为金融行业提供网络安全应对支持的金融保安院近日遭遇黑客攻击,并出现部分个人信息泄露。数字证书发行企业DigiCert也披露数据泄露事件,表示企业客户联系信息遭到外泄。

国际层面,美国和法国将针对欧洲超市冷藏、冷冻设备的网络攻击归因于伊朗,相关事件再次引发外界对关键基础设施网络安全风险的关注。

在AI扩散带动网络攻击风险上升的背景下,韩国政府也开始系统推进应对措施。韩国国家人工智能战略委员会已成立“国家网络韧性强化任务组”,以提升国家关键基础设施和必需服务的持续运行与恢复能力。

韩国科学技术信息通信部则计划进一步强化IP摄像头等物联网产品的安全管理。在法国等欧洲国家发生冷藏、冷冻设施控制系统遭黑客入侵事件后,该部门还将检查韩国冷链行业的安全现状,并建议企业采取紧急安全措施。

在数字资产领域,韩国金融监管部门计划将数字资产服务商的安全水平提升至金融机构标准,并推动在数字资产相关法律中纳入IT安全保障义务和损害赔偿责任。监管层还考虑在法律正式实施前,允许平台在疑似遭遇黑客攻击时先行暂停充值和提现,以降低损失扩大风险。

此外,韩国科学技术信息通信部还将对GS Engineering & Construction住宅小区社区设施预约与管理系统遭入侵事件依职权启动调查。GS Engineering & Construction已于10月29日报告该系统发生入侵,但表示将自行分析事故,未同意韩国科学技术信息通信部和韩国互联网振兴院(KISA)介入调查。

日本政府方面,据悉正研究引入“Blocking”机制,通过强制屏蔽特定网站访问,防止因网络攻击泄露的个人信息进一步扩散。

除监管动向外,国内外企业近期也在持续加码安全投入。Cisco将把Anthropic的安全专用模型“Claude Mithos 5”集成至其AI安全解决方案“AI Defense”中,以增强面向AI应用的红队测试能力。美国最大银行JP Morgan Chase则计划将OpenAI模型引入软件开发与网络安全领域。随着金融机构对AI的使用从事务性辅助逐步扩展至核心IT系统开发和安全运营,业内预计金融业的AI应用竞争格局将出现变化。

日本SoftBank也在子公司IDC Frontier遭勒索软件攻击后,强化集团整体安全检查。该公司判断,在AI推动下,网络攻击与漏洞发现速度都在加快,传统以人力为中心的应对体系已显露局限。

在韩国市场,全球运行时应用安全企业RAVEN正式宣布进入当地市场,并将优先拓展监管要求更为严格的行业客户。API治理公司Softfreak计划于年内发布“F-Avata Shell”,利用AI自动生成漏洞诊断脚本。PNP Secure已向韩国一家储蓄银行供应“FaceLocker”屏幕信息泄露防护方案。Private AI则与Jininfra签署总经销协议,以扩大企业级安全方案销售渠道。

与此同时,ITCEN Group旗下安全子公司ITCEN PNS正强化AI驱动的漏洞诊断与威胁响应能力,完善从漏洞发现、风险分析、主动防御到实时检测、自动响应的全流程安全体系。KT将向韩国科学技术院(KAIST)提供“AI邮件安全”服务,进一步加强全校邮件安全体系。BNK Financial Group也将对旗下全部子公司的网络安全应对体系开展检查,并推动引入AI漏洞管理和24小时一体化安全托管体系。

值得关注的是,继Artrex之后,基于AI的渗透测试平台“AntiFox”被用于实际攻击的情况也在增多。近期还有消息称,AntiFox已被用于窃取Amazon Web Services(AWS)认证信息,并进一步渗透内部系统的攻击链中。

随着AI需求持续增长,黑客攻击也出现新趋势。与以窃取个人信息或通过勒索软件牟利为主的传统攻击方式相比,越来越多攻击开始转向“盗取算力”。与持续蚕食他人计算资源的加密劫持不同,LLM劫持可在短时间内造成高额费用。报道提到,已有案例在一天内产生超过10万美元的异常费用,部分企业在阻断未授权访问前累计损失甚至达到100万美元。

整体来看,AI正在重塑企业安全市场,也在同步放大网络攻击方式和监管应对的变化。从企业加快推出AI安全产品,到政府强化网络韧性、物联网安全及数字资产监管,围绕AI的安全攻防正进入新阶段。

关键词

#AI安全 #生成式AI #AI安全网关 #AI DLP #网络韧性 #物联网安全 #数字资产服务商 #勒索软件 #加密劫持 #Cisco
版权所有 © DigitalToday。未经授权禁止转载或传播。