Bruce Schneier(图片来源:Bruce Schneier 个人网站)

Anthropic 小范围发布的 AI 模型 Mythos,因在软件漏洞发现方面表现出较强能力,引发业界对其可能重塑网络安全格局的关注。

随着 Mozilla、Palo Alto Networks 等机构陆续分享使用 Mythos 的经验,围绕生成式 AI 安全影响的讨论持续升温。不过,也有观点认为,这类模型带来的风险不应仅限于网络安全领域。

网络安全专家、哈佛大学肯尼迪学院讲师 Bruce Schneier 近日在《卫报》撰文指出,Anthropic 推出 Mythos 传递出一个明确信号:AI 的影响可能不仅体现在网络攻防层面,还可能进一步冲击税制及各类监管体系。

在他看来,Anthropic 对 Mythos 的表述本身就值得审慎看待。该公司在发布时称,这一模型“风险过高,无法公开”。但 Bruce Schneier 认为,不能排除其中也有商业层面的考量。此外,他还指出,Mythos 的运行成本很高,现阶段似乎也并不具备面向公众开放的现实条件。

不过,Bruce Schneier 并未否认 Mythos 所代表的潜在威胁。他表示,包括 Anthropic、OpenAI 及部分开源模型在内的新一代生成式 AI,正越来越擅长发现并利用软件漏洞。攻击者如果借助这类能力,可能入侵全球关键系统,植入勒索软件、窃取数据,甚至夺取系统控制权,从而令世界变得更加危险和不稳定。

与此同时,AI 也能提升防守能力。Mozilla 表示,其借助 Mythos 在 Firefox 中发现并修复了 271 个漏洞。Bruce Schneier 认为,未来由 AI 自动发现并修复漏洞,可能会成为软件开发流程中的标准环节。

但他进一步强调,Mythos 这类模型的外溢影响可能远不止于安全系统本身。

Bruce Schneier 认为,AI 在软件分析中展现出的搜索、模式识别和推理能力,也可能迁移到结构相近的其他规则系统中。他以税制为例指出,税法虽然不是计算机代码,但本质上同样是一套有输入、有输出的“规则系统”,也存在可被利用的漏洞,即所谓税务漏洞;围绕这些漏洞,自然也会衍生出相应的避税策略。

他指出,在软件世界中,负责寻找并利用漏洞的是黑帽黑客;而在税务领域,律师和会计师在一定程度上也扮演着类似角色。

Bruce Schneier 还表示,大型投资银行或许已经在秘密推进利用 AI 挖掘税务漏洞的工作:将美国、英国等工业化国家的税制输入 AI 系统,要求其寻找可行的节税路径。AI 最终能找出 10 个、100 个还是 1000 个漏洞,目前无人知晓;它是否还能将多国税法进行组合,以进一步压低税负,同样没有答案。

他补充说,一旦 AI 大量生成节税思路,律师和会计师就可能从中筛选出具有可操作性的方案,完成相应的法律论证与合规包装,再将其出售给高净值客户。类似情况也可能出现在环境监管、食品安全监管等任何复杂规则体系之中。

在 Bruce Schneier 看来,这类影响造成的损害,甚至可能比 AI 挖掘软件漏洞更大。

他解释称,税务漏洞会侵蚀政府财政收入,监管漏洞则可能让强势群体绕开规则约束。软件厂商通常几天内就能发布补丁,但税制调整往往需要数年时间,而且过程高度政治化,游说集团甚至可能阻止这些“补丁”真正落地。

文章最后,Bruce Schneier 指出,工业革命用机器替代了人类体力劳动,而 AI 革命则将以机器替代人类脑力活动。现有税制、监管体系和安全系统,都是按照“人类速度”建立起来的,并不是按 AI 的运行速度设计的。要适应这一变化并不容易,但别无选择。

关键词

#Anthropic #Mythos #生成式 AI #网络安全 #软件漏洞 #Mozilla #Firefox #Palo Alto Networks #税制 #监管体系
版权所有 © DigitalToday。未经授权禁止转载或传播。