图片来源:Shutterstock

据Axios报道,当地时间15日,多家美国科技公司的网络安全主管及研究人员正向特朗普政府施压,要求取消对Anthropic最新AI模型的限制。

报道指出,这些人士认为,相关限制对防御方造成的伤害大于对攻击方形成的约束。

他们担心,如果对Anthropic对外发布的“Mitok级”模型Phaible5的访问加以限制,在AI驱动的网络攻击风险持续上升的背景下,反而会削弱安全团队的防御能力。

由前Facebook首席安全官Alex Stamos牵头的团体已发布公开声明称,Amazon研究人员提出的相关问题,在其他主流AI模型中同样存在。截至14日晚间,声明签署者已超过40人,包括Luta Security CEO Katie Moussouris、SocialProof Security CEO Rachel Tobac、Veracode联合创始人 Chris Wysopal、计算机科学家 Paul Vixie、Sophos CEO Joe Levy以及Nvidia安全研究员 Aaron Grattafiori等。

该团体在声明中表示,这项措施“使防御团队无法使用性能最强的模型,加剧市场不确定性,并在缺乏实际风险依据的情况下,让美国在AI领域的领先地位面临风险”。

现任Cori首席产品官(CPO)的Alex Stamos表示,白宫可能担心的是Phaible5具备生成漏洞概念验证(PoC)的能力。

他进一步指出,PoC既可能被攻击者用于入侵系统,也可以帮助安全团队理解系统应如何防护。他同时强调,目前能够把PoC进一步转化为完整自主攻击链的模型,只有Mithos5,以及仅向参与Anthropic“Project Glasswing”的经核验成员企业开放的Mithos Preview。

Alex Stamos在接受Axios采访时表示,“你不可能把整个Linux内核交给Phaible,然后要求它‘找出所有安全漏洞’”,并称“Amazon也没有声称它具备这种能力”。

Alex Stamos还表示,中国的开源模型在安全缺陷分析能力上与Phaible5的差距并不大。他称,在明知中国正在利用并囤积这些漏洞的情况下,“主动限制我们最强的能力,既危险,也明显愚蠢”,并指出“我们正处在一场必须尽快修复这些漏洞的竞赛之中”。

关键词

#Anthropic #Phaible5 #AI模型访问限制 #网络安全 #漏洞概念验证 #Alex Stamos #白宫 #美国AI领先地位 #开源模型
版权所有 © DigitalToday。未经授权禁止转载或传播。