图片来源:Shutterstock

据外媒报道,特朗普政府近日已限制Anthropic最新模型Mytos与Fable5的境外访问。消息称,Amazon首席执行官Andy Jassy此前曾就Anthropic模型存在的安全隐患,向美国财政部长Scott Bessent等官员作出通报,此举被认为推动了相关限制措施出台。

The Information与The Wall Street Journal(WSJ)于当地时间13日报道了上述消息。

报道称,Amazon研究人员通过特定提示词诱导Fable5输出了与安全漏洞有关、可能被用于网络攻击的内容。Jassy随后将相关情况告知包括Scott Bessent在内的美国政府高层,白宫也随即召开会议讨论应对方案。

在安全研究人员复核Amazon方面的说法后,监管部门要求Anthropic对相关安全问题进行修补,或暂停相关模型的访问。

报道还称,美国政府认为,直接限制境外政府、企业和个人访问相关模型,是最直接的应对方式。WSJ称,尽管外界担心此举“可能抑制创新”,特朗普仍签署了相关措施。

Anthropic表示,为执行政府指令,公司已暂停用户对Mytos与Fable系列模型的访问。由于公司研究团队中外籍员工比例较高,相关措施也影响到部分内部研发工作的推进。

对于Amazon提出的问题,Anthropic认为其严重性被夸大。该公司表示,类似信息也可以从其他公开模型中获得,因此很难界定为一次完整的“越狱(jailbreak)”。

网络安全公司GreyNoise Intelligence创始人Andrew Morris也持相近看法。他表示,Fable5至少能够识别4个软件程序中的安全漏洞,但尚未表现出生成可用于实际网络入侵的漏洞利用代码的能力。

报道指出,这一事件再次加剧了Anthropic与特朗普政府之间的紧张关系。特朗普政府认为Anthropic与进步派捐助者有关联,并指责其夸大AI风险;而Anthropic首席执行官Dario Amodei此前也曾批评特朗普政府。另据报道,美国国防部还曾采取将Anthropic指定为安全威胁的罕见举措,Anthropic目前正就此推进两起诉讼。

此次模型停用,正值Anthropic最早可能于今年秋季推进IPO之际。分析认为,如果用户转向其他模型,公司估值可能受到影响;与此同时,拥有自有网络安全模型的OpenAI等竞争对手,也可能从中受益。

关键词

#Anthropic #Amazon #Andy Jassy #Scott Bessent #Mytos #Fable5 #模型安全 #限制境外访问 #网络安全 #IPO
版权所有 © DigitalToday。未经授权禁止转载或传播。