据The Register 17日的报道,网络安全公司Barracuda警告称,攻击者正利用“文本加盐”(text salting)技术干扰AI驱动的邮件过滤系统。
Barracuda表示,自4月以来,公司已检测到超过100万起利用“文本加盐”手法、冒充购物和配送通知的钓鱼攻击。
所谓“文本加盐”,是指在恶意邮件中插入大量看似无害的词语,诱导邮件扫描系统误判,从而绕过过滤机制。Barracuda指出,这种手法在过去几年已被用于规避传统邮件安全网关,如今也可能对基于机器学习和LLM的大模型安全工具造成干扰。
该公司称,如果只是随机插入词语,邮件内容很容易被收件人察觉异常。因此,攻击者通常会采用至少一种隐藏方式,使这些文字对人眼不可见、却能被自动化扫描系统读取。
具体来看,CSS裁剪可通过压缩显示区域隐藏填充文本;部分文本操控手法会将相关内容移出可视区域;而“零字体”技术则是在可疑的钓鱼话术之间插入机器可见、但人眼不可见的词语。
Barracuda指出,不少新一代邮件安全系统已经能够识别这类手法,但AI模型对此仍未完全适应。
该公司在报告中表示,“文本加盐”及相关技术可通过随机词语填充邮件内容,误导基于AI的内容分析引擎,进而造成错误分类和判断混乱。
Barracuda还表示,LLM通常不会区分文本是否对用户可见,而是会按既定方式直接处理邮件正文和源代码。虽然可以通过训练提升其识别能力,但目前多数工具尚未做到这一点。
Barracuda建议,企业不要仅依赖关键词检测,而应结合发件人信誉和认证结果、嵌入式URL、HTML渲染手法,以及用户可见内容与隐藏内容之间的差异,建立多层邮件安全防护策略。