据SiliconANGLE当地时间16日报道,谷歌首次确认,攻击者已借助LLM框架,在几乎无人干预的情况下,将从漏洞探测到攻击实施的整套流程实现自动化。
谷歌威胁情报团队(GTIG)在最新季度报告中披露了一套名为“exploit_agent”的框架。该框架被发现部署在一台暴露于公网、未进行安全加固的测试服务器上,可接入多种大语言模型(LLM)。
GTIG表示,这一框架会持续分析Web应用补丁前后的代码差异,在识别出漏洞后,自动生成并执行利用代码。
调查显示,攻击者曾利用该系统针对法国媒体、娱乐和教育类网站发起攻击。在上述测试服务器中,研究人员还发现了受害者数据,以及用于部署Web Shell的脚本。
GTIG称,直到两个月前,团队仍未在真实攻击活动中确认“完全自主AI攻击”的存在,但目前这一情况已经发生变化。该团队判断,攻击者可能认为,相比挖掘新的零日漏洞,利用LLM针对已公开漏洞发起攻击效率更高。
与此同时,从漏洞公开到利用代码成熟的时间也在明显缩短。
谷歌还表示,国家支持的组织、商业公司和政治团体,已将AI常态化用于舆论操纵。与此同时,LLMjacking也在快速扩散,正成为攻击者新的收入来源,并给受害机构带来高昂成本。
GTIG预计,未来3个月内,几乎无需人工介入、由多个AI代理协同执行的简单攻击可能出现;未来6个月内,更复杂的完全自主AI攻击也可能出现。
记者信息