Elon Musk提出,主要人工智能公司应在新模型发布前建立互检机制,对模型安全性进行交叉评估。
据CNBC 15日报道,Musk在洛杉矶举行的All-In Summit上表示,SpaceX、OpenAI、Anthropic、Google、Meta以及3至4家中国主要AI公司都应被纳入这一机制。
按照他的设想,AI公司不应只依赖内部评估,而应由竞争对手依据统一测试标准对新模型进行安全评估。一旦发现值得警惕的风险,对方即可发出预警。Musk认为,这一做法可能比企业自行评估性能和安全性更有效。虽然他也承认该方案并不完美,但至少能“显著提高”发现问题的概率。
这项提议出台之际,AI行业围绕研发速度与安全性的争论正持续升温。近期,Anthropic、OpenAI等公司的相关人士接连就高性能AI可能带来的风险发出警告,并提出有必要放缓模型研发节奏。Musk与OpenAI首席执行官Sam Altman也对Anthropic首席执行官Dario Amodei有关“调节研发速度”的主张表示认同。
争议扩大的背后,还有AI研究人员的公开示警。近期离开Anthropic的Jacob Coxon表示,领先的AI研究机构正在“以我们的生命为赌注”。这名也曾在OpenAI任职的研究人员指出,当前行业安全标准并不充分。Anthropic对齐研究负责人Evan Hubinger也持相似看法,并称未来10年内,AI导致全人类死亡的概率可能超过10%。
不过,美国政府与中国对于“放缓AI开发速度”的诉求态度并不一致。美国总统Donald Trump多次淡化外界对AI的担忧及监管呼声,认为美国不应放慢AI开发步伐。白宫国家经济委员会(NEC)主任Kevin Hassett也表达了类似观点,称与AI相关的担忧应主要由私营部门应对。
中国方面同样对“AI开发减速”相关主张作出负面回应。中国外交部发言人曾就此批评称,这类说法是在制造恐慌。Donald Trump也曾表示,如果放慢AI开发速度,中国可能会在技术竞争中占据优势。Dario Amodei则将“同时兼顾美国AI竞争力与安全性”形容为一项艰难的两难选择。
Musk也承认,目前竞争对手尚未同意他的提议。相比之下,Dario Amodei另行主张引入第三方评估机制,即由外部评估人员进入AI研究机构内部核查安全规范。Musk则强调,他提出的“互检”方案是“朝着正确方向迈出的一步”,启动速度也相对更快,并补充称,中国企业也有可能接受这一做法。
在AI研发竞赛与中美科技竞争交织的背景下,竞争公司之间相互验证模型安全性,能否从倡议发展为实质性合作机制,仍有待观察。不过,随着围绕开发速度与安全性的讨论持续发酵,企业间如何建立评估与协作路径,正成为行业重要议题。