图片来源:Shutterstock

随着AI需求升温,黑客的攻击重点也在发生变化。除传统的个人信息窃取和勒索软件攻击外,围绕“盗用算力”和“滥用模型调用权限”的攻击正快速蔓延。

《华尔街日报》(WSJ)近日报道称,过去一个月,包括Railway在内的10多个AI开发平台遭遇网络攻击。多起事件中,攻击者的主要目标都是API密钥等在线认证凭证。

这些被盗密钥随后被用于未经授权调用美国AI模型服务。以Railway事件为例,攻击者除窃走价值37.1万美元的加密货币外,还盗取了Railway客户的API密钥。WSJ援引该公司称,仅这一事件就在Amazon Bedrock、OpenAI、Anthropic、Google Gemini等AI服务上造成至少75万美元的使用费用。

网络安全公司R10N Security在分析相关AI会话记录后表示,攻击者利用被盗客户账户凭证发起的调用,涉及3D电子游戏制作、房地产开发调研等多类任务。

AI基础设施企业Zeabur也遭遇API密钥失窃,最终产生约10万美元账单。

Google Threat Intelligence Group(GTIG)和Google旗下Mandiant指出,攻击者窃取企业AI模型访问权限后,将其用于恶意活动或转卖给其他攻击者,这类做法可统称为“LLMJacking”。

与长期占用他人算力资源的加密劫持不同,LLMJacking的特点是能在短时间内迅速推高费用。在已披露案例中,有企业单日就出现超过10万美元的异常支出;在阻断未授权访问前,部分企业累计损失已达100万美元。

为了窃取API密钥,黑客的攻击路径也在升级,开始直接瞄准大型企业网络环境。

近期相关攻击波及北美、南美和亚太地区的金融服务、零售、科技及运输企业。攻击者通过窃取凭证和会话劫持(session hijacking)渗透目标系统。所谓会话劫持,是指拦截已登录会话并借此进入系统。与此同时,攻击者还会收集公开GitHub代码库中暴露的凭证信息。

有攻击者在不到8小时内调用LLM API超过50万次,并通过反复创建和删除短生命周期服务账户来绕过调用上限。

Google分析称,攻击者会将多枚被盗API密钥集中到单一中转服务器,再以低价在网络犯罪黑市出售模型访问能力牟利。购买者通常不是逐个购买API密钥,而是直接通过这些中转服务器使用AI模型。

报道称,一项非法“令牌路由”服务以每月约60美元的价格,向买家提供对前沿模型的“无限使用”权限,而相应模型调用成本却最终记在受害企业账上,金额可高达100万美元。

这些中介站点还向中国、俄罗斯、伊朗等无法直接使用美国AI模型的国家和地区用户兜售访问权限。Anthropic近期也表示,这类中介站点经常被用于借助蒸馏(distillation)技术复制美国AI模型。所谓蒸馏,是指利用Anthropic、OpenAI等前沿AI公司大模型生成的数据训练更小模型的方法。

令牌滥用防护服务Vectoral创始人Matthew Lenhard表示,这类站点的月访问量已达数千万,“已经有人靠这门生意赚到大钱”。

区块链分析机构Chainalysis分析师Kumi Mitarai表示,这类帮助用户低成本使用美国前沿AI模型的中介服务,已成为中国经济的一部分。她还称,网上已确认存在700多个相关服务。Chainalysis统计显示,其中排名前五的平台通过加密货币合计获得约600万美元收入。

报道称,围绕AI模型访问权限、针对云端AI开发平台的黑客攻击自10月初开始出现,至今仍未显现明显降温迹象。其究竟只是短期扰动,还是会演变为长期威胁,目前仍难下定论。

在此背景下,AI软件开发平台OpenCode联合创始人Dax Raad表示,这类攻击“不会停止”。他称,团队目前之所以还能维持运转,是因为AI代理工具正在24小时不间断处置相关问题,团队成员也“几乎睡不着”。

针对LLMJacking,业界建议企业从多个层面加强防护,包括开展威胁狩猎、排查组织内部未经授权的LLM使用情况、细化API密钥权限,以及部署自动化密钥扫描。GTIG首席分析师John Hultquist表示,攻击者会借助代理型工具,在受害者未察觉的情况下窃取令牌并迅速扩大攻击规模。企业应严格控制LLM资源访问,防止“费用炸弹”,同时核查资源使用记录、启用多因素认证(MFA),并谨慎管理账户信息。

关键词

#AI安全 #API密钥 #LLMJacking #Railway #Zeabur #Google Threat Intelligence Group #GTIG #Mandiant #OpenAI #Anthropic #Amazon Bedrock
版权所有 © DigitalToday。未经授权禁止转载或传播。