图片来源:Shutterstock

Anthropic宣布启动“Project Glasswing”计划,面向经筛选的企业开放其在研AI模型“Claude Mythos Preview”,用于网络安全相关工作。

该公司同时表示,Project Glasswing未来也可向竞争对手开放,原则上欢迎OpenAI等同行参与。

据Alex Heath创办的媒体sources.news于9日(当地时间)报道,Anthropic Frontier Red Team负责人Logan Graham表示,Glasswing可以迅速转为由第三方主导的联盟,并向所有模型提供方开放参与。

当被问及OpenAI是否会加入时,Graham回应称“原则上欢迎”。他还表示,无论Glasswing未来演变为哪种形态,OpenAI、Google DeepMind等公司都应参与其中。目前,已有与Anthropic存在竞争关系的企业加入该计划。

Graham介绍,自Glasswing发布以来,企业、机构和基础设施运营方对Mythos的访问申请迅速增加。Anthropic也在加快扩充负责Glasswing运营的内部团队,并称市场反馈好于预期。

针对外界有关“Anthropic只向特定合作伙伴提供更强模型、将其他机构排除在外”的质疑,Graham表示,参与方只能将Mythos用于安全相关工作,不得用于产品开发等研发活动。Anthropic要求所有参与者聚焦各自领域内最关键的全球性安全议题,而非服务于Anthropic自身利益。

他同时指出,参与Glasswing的公司虽可将Mythos用于安全工作,但Anthropic则可在更广泛的场景中使用该模型。Graham承认,这种安排确实存在权力不对称,但在具备内部研究能力的研究型公司中,这属于常见做法。

对于限制Mythos访问是否与服务成本有关,Graham直言,这并不是主要原因,并强调Glasswing并非盈利业务。团队参与这一计划,不是为了获取收入,而是为了直接落实其AI安全使命。

Anthropic尚未披露Mythos面向公众开放的具体时间。Graham表示,在正式公开前,仍需围绕模型安全、授权使用,以及对违规使用的监测等方面进行长期验证。

关键词

#Anthropic #Project Glasswing #Claude Mythos Preview #网络安全 #OpenAI #Google DeepMind #AI安全 #第三方主导联盟
版权所有 © DigitalToday。未经授权禁止转载或传播。