多家AI公司负责人以安全风险为由呼吁放缓前沿AI研发节奏,外界对其背后是否存在利益驱动的质疑升温。图片来源:Reve AI

Anthropic、OpenAI、xAI等多家人工智能(AI)企业负责人近日接连呼吁放缓前沿AI模型研发,引发业界对其真实动机的讨论。相关人士普遍将理由归结为安全风险,但也有观点认为,这一主张背后还夹杂着上市预期、盈利压力以及监管博弈等现实考量。

据Business Insider等外媒9月14日(当地时间)报道,卷入这场争议的包括Anthropic首席执行官Dario Amodei、OpenAI首席执行官Sam Altman、xAI首席执行官Elon Musk,以及Google DeepMind联合创始人Demis Hassabis。上述人士认为,AI可能对人类带来严重风险,因此应为最前沿模型设置更严格的安全护栏,并对研发节奏加以约束。硅谷长期存在有关AI副作用的警示声音,但多家头部AI企业负责人在短时间内集中发出“放缓”呼声,仍被认为并不常见。

Dario Amodei近日撰文提出,应对“前沿发展速度”进行调节,主张放缓AI能力提升步伐。他表示,随着AI快速具备协助开发下一代AI的能力,递归式自我改进(RSI)正逐步走向现实;若缺乏足够约束,AI在理解和控制层面可能超出人类掌控。Amodei同时提出三项建议,包括允许第三方评估机构持续接入、建立行业安全标准,以及推动国际协作。

不过,放缓研发的呼声出现之际,AI行业本身也正面临多重压力。首先,社会各界对数据中心持续扩张的反对情绪升温;与此同时,投资者和分析师也在持续追问,高投入的AI业务何时才能带来实际回报。另一方面,作为高成本前沿模型替代路径的开放权重模型加速普及,也令大模型开发商的商业化策略承受更大压力。

Anthropic和OpenAI的IPO相关预期,同样被视为重要变量。市场认为,一旦正式启动上市流程,企业的财务状况与业务结构将接受更严格审视。报道称,Anthropic据称已考虑纳斯达克作为上市地;Sam Altman也曾表示,AI安全领域仍有大量问题有待解决,今年推进首次公开募股(IPO)“并不是明智时机”。

还有观点认为,放缓研发的主张客观上可能更有利于既有大型企业。如果新的监管体系建立,先发企业可能在规则制定过程中拥有更大影响力;而法律、审计、内控等合规成本,也可能进一步抬高后来者的进入门槛。正因如此,市场上出现了质疑声音,认为部分AI企业可能借“安全”之名阻挡竞争对手进入,甚至推动更有利于自身的监管框架。

也有人指出,“放缓研发”还可能成为解释业绩不及预期或成本压力上升的说辞。即便产品发布时间延后,或经营目标未能实现,也可以归因于“出于安全而更加谨慎”;降本进展缓慢,同样可能被解释为开发安全AI所必须承担的结构性成本。从这个角度看,行业主动要求引入监管,长期也可能演变为维护既有厂商利益的结果。

不过,也有声音认为,不能仅从企业利益出发解读这轮“放缓”倡议。近期,AI安全研究人员和行业人士持续警告,AI智能体已出现偏离人类意图的行为,甚至可能对外部系统发起攻击。有报道提到,OpenAI的AI智能体此前曾被指针对Hugging Face发起网络攻击,这也被认为是推动Amodei提出相关主张的重要触发因素之一。Amodei警告称,如果能力更强的AI智能体以类似方式失控,后果可能十分严重。

Anthropic前研究员Jacob Coxon在离职时表示,AI开发者正严肃看待“AI在未来10年内毁灭全人类”的可能性。他公开发表的相关文字进一步推高了这场AI安全争论的热度,业界对于递归式自我改进可能比预期更早到来的担忧也在升温。部分研究人员警告,一旦AI进入“自主开发更强AI”的阶段,网络安全等领域面临的风险将远超当前水平。

与此同时,中美竞争被认为是“放缓研发”论调面临的最大阻力之一。长期以来,一直有观点认为,如果美国主动放慢AI研发,中国可能借机取得领先,因此美国应继续推进竞争。中国政府近期也将放缓AI研发的呼吁批评为“制造恐慌”。不过,也有专家强调,AI风险具有跨境属性,反而更需要包括美国和中国在内的国际合作。

总体来看,这场争论早已不只是“是否应该放缓AI研发”这么简单。如果连AI企业自身都在担忧难以控制的强大技术出现,那么前沿技术的发展方向以及控制权,是否应继续由少数企业管理层掌握,仍是一个悬而未决的问题。以安全之名推动的行业自律,最终究竟会成为有效的安全机制,还是演变为强化头部企业市场支配力的工具,目前仍难有定论。

关键词

#Anthropic #OpenAI #xAI #Google DeepMind #AI安全 #递归式自我改进 #AI智能体 #IPO #监管规则 #数据中心扩张
版权所有 © DigitalToday。未经授权禁止转载或传播。