随着企业加快AI转型，AI也正迅速渗透至网络攻击链条。

在早期阶段，黑客主要利用AI搭建勒索软件所需的工具和基础设施。如今，AI的用途已进一步扩展至入侵后的横向移动、寻找更多账户入口，以及分析窃取数据等环节，攻击自动化程度持续提升。

Microsoft表示，与中国政府有关联的黑客组织“Storm-0940”正在使用一款由中国工程师开发、基于开源技术的AI渗透测试工具“Artex”，将针对全球数百家机构、覆盖多个行业的攻击流程自动化。

另据报道，黑客组织CyberCartel也在利用多种AI代理发起自动化攻击。这些代理基于Anthropic、SpaceX以及中国Moonshot AI的模型运行，目标为中南美地区约400家金融机构。报道还提到，黑客曾通过攻击AI编程工具的开源代码，对用户AI账号进行未经授权的计费操作。

《华尔街日报》（WSJ）援引安全咨询公司LMG Security创始人Sherri Davidoff的话称，黑客正借助AI搜集攻击目标的前期情报，分析海量窃取数据，并快速生成可用于网络入侵的攻击代码。

Davidoff表示，她每3个月都会向NetDiligence等数据泄露应对服务商及行业专家发起问卷调查，以了解真实攻击事件中所使用的手法。她指出，大约一年前，几乎没有受访者发现AI被用于攻击的迹象；但在最近3个月内，AI介入已明显常态化。

Microsoft在一份涉及与中国政府有关联黑客组织的报告中还指出，在部分环境下，AI代理不仅能够绕过身份验证，还可执行侦察、修改应用凭证，并更改身份、群组及特权角色，以维持持久化访问。报告称，攻击者会预先更改应用凭证，即便受害企业事后修复相关应用，攻击者仍可能继续保持访问权限。

有观点认为，近期黑客活动激增，也与AI驱动攻击能力快速上升有关。

另有分析称，AI驱动的网络攻击正以极快速度和更大规模扩散，甚至让网络入侵事件响应服务商面临巨大压力。WSJ指出，随着包括PHP漏洞在内、可能冲击互联网基础设施的底层高危漏洞接连披露，业内甚至将本月称为“Black October”。

除得到中国、俄罗斯支持的黑客组织外，以窃取数据或投放勒索软件为目的的网络犯罪分子也开始使用AI工具。业内预计，大规模损失事件仍可能持续出现。

网络安全公司Volexity总裁Steven Adair表示，未来几周到几个月内，披露遭受入侵的案例可能会大规模涌现。

CrowdStrike高级副总裁Adam Meyers表示，“Agentic AI”攻击者正在爆发式增长，使用这类工具的已不只是高水平攻击者，技术能力较弱的攻击者也在快速跟进。

多家科技公司高管也开始对“漏洞海啸”发出警告。据《卫报》报道，OpenAI CEO Sam Altman表示，他已不再认为所有漏洞都能够被及时修补。Anthropic副首席信息安全官Jason Clinton也在社交平台X（原Twitter）发文称，未来几个月或将出现“漏洞海啸”，而核心基础设施未必有足够时间完成修补。Salesforce CEO Marc Benioff对此表示认同，并将其形容为“紧急状态”。

Cloudflare CEO Matthew Prince则表示，安全行业将难以跟上AI发现漏洞的速度。未来两年，随着新工具不断出现并持续挖掘缺陷，整体安全形势可能“非常危险”。《大西洋月刊》还报道称，CrowdStrike目前正以平均每两小时发现一个AI驱动黑客组织的速度更新监测结果。