调查显示,借助多个AI模型搭建自动化攻击链,已被黑客组织用于针对银行和支付机构发起网络攻击。
据《The Information》21日(当地时间)援引网络安全初创公司Straiker披露,黑客组织CyberCartel利用基于Anthropic、SpaceX以及中国Moonshot AI模型构建的多套AI代理,将针对中南美约400家金融机构的攻击流程实现自动化。
《The Information》称,这是少数详细披露网络犯罪分子如何借助AI实现对金融机构渗透自动化的报告之一。
报道指出,CyberCartel所使用的AI代理在几乎无需人工干预的情况下,便可窃取密码和客户数据,并尝试访问银行账户。
近期遭到攻击的目标包括银行和支付应用。《The Information》表示,其已核实某金融机构数据被窃的情况,但由于相关受害机构仍在通知过程中,暂未公开具体名称。
此次攻击的另一特点在于,不同AI代理之间存在明确分工。
从攻击架构来看,基于SpaceX Grok的代理负责在网上搜集目标信息;4个由Anthropic Claude Opus和Sonnet模型驱动的代理负责研判更合适的攻击路径;另一套在AI编程工具Cursor中运行的Claude模型则负责统一调度,充当整个攻击流程的“指挥官”。
据悉,CyberCartel自2012年起开始活动,近几个月借助AI代理明显提升了攻击速度和效率。《The Information》援引Straiker称,该组织因意外泄露内部运营信息,其相关手法才得以被识别。
调查还显示,为绕过AI模型的安全护栏,CyberCartel会将任务伪装成学术测试或企业内部安全检查等无害场景。若Claude拒绝相关请求,任务就会转交给Moonshot的Kimi等小模型;如果Kimi仍然拒绝,系统则会自动切换到植入恶意代码等传统手段。上述说法由Straiker披露。
Straiker还表示,CyberCartel通过组合多种性能低于Anthropic的高性能模型的模型,搭建出一套从漏洞发现到实施攻击的完整系统。
Anthropic在接到Straiker通报后已展开调查,并阻止CyberCartel继续使用Claude。SpaceX也正封禁相关访问。Straiker称,其正在尝试与Moonshot取得联系。