美国政府近期禁止外国用户访问Anthropic最新人工智能(AI)模型Mythos和Fable。随着相关限制措施出台,围绕Anthropic长期高调强调“AI风险”的做法,是否反而为监管提供了依据的争议持续升温。
据IT媒体Ars Technica当地时间22日援引英国《金融时报》(FT)报道,FT在分析Anthropic及竞争对手OpenAI的公开表态后发现,Anthropic在对外发声中更频繁强调AI风险以及加强监管的必要性。
此次统计覆盖Anthropic及其CEO Dario Amodei的官方声明、社交媒体内容和署名文章。FT称,Anthropic平均每1000个单词中,约有5次提及与风险、监管和安全相关的措辞;OpenAI及其CEO Sam Altman的对应数据仅为0.6次。
从具体词频看,Anthropic今年以来共使用“风险”(risk)336次,提及“安全装置”(safeguard)121次、“脆弱性”(vulnerability)128次;OpenAI对应分别为30次、33次和10次。
政界和行业人士认为,这一沟通策略与美国政府近期的监管动作形成了某种呼应。美国政府上周对Mythos和Fable实施外国用户访问禁令,据称相关措施是以国家安全和网络安全风险为依据推进的。
处于争议中心的Mythos,此前被介绍为可识别关键网络安全漏洞的高性能模型。报道指出,Anthropic曾以安全为由,在早期仅向部分美国机构开放有限访问权限,并在正式发布前就上线方案与政府相关人士进行过沟通。
不过,也有批评声音认为,Anthropic过度强调风险,反而为更严厉的监管“递上了理由”。Meta前首席AI科学家Yann LeCun在社交媒体上抨击Amodei的AI风险论是“毫无根据的恐慌营销”,并称其结果是“自食其果”。
Sam Altman也曾在4月的一档播客节目中谈到Mythos,并讽刺称,“先说我们造出了一枚炸弹,现在又要把它扔到你头上”,这是一种“相当令人惊讶的营销策略”。
长期以来,Anthropic一直被视为AI行业“安全优先派”的代表。Amodei在禁令出台前发布的一篇长文博客中曾表示,监管机构反应过慢,并警告AI可能对金融体系、关键基础设施和国家安全带来现实风险。
但也有观点认为,这类警告最终反而被政府用来强化监管。曾负责美国政府AI政策的前“AI沙皇”David Sacks表示,“可信的合作伙伴曾提出绕过安全装置的方案,但Anthropic淡化了这些方案”,政府最终只能“不得不”采取禁令措施。
这一措施出台之际,美国政府与Anthropic之间的矛盾也在持续升级。双方此前已围绕AI技术的国家安全用途、监控技术应用等问题公开交锋。今年2月,美国国防部还将Anthropic列为“涉及国家安全的供应链风险企业”。目前,双方正就这一认定的合法性展开法律争议。
业内普遍认为,这起事件已不只是Anthropic一家公司的问题,还可能成为美国政府未来以何种标准管控前沿AI模型的首个观察样本。与此同时,美国一边推动先进AI芯片出口,一边又对最先进AI模型施加严格访问限制,也引发了外界对其政策一致性的质疑。
专家预计,此次措施将对美国、欧洲及主要盟友后续围绕AI技术管控与监管的讨论产生重要影响。