AI在国防领域的应用需求快速升温,也随之引发争议。图片来源:Reve AI

OpenAI CEO Sam Altman当地时间1日在X平台就公司与美国国防部的AI合同公开答疑,确认OpenAI已向美国国防部提供AI模型。围绕这笔合作,外界关注的焦点之一是:在Anthropic拒绝相关要求后,OpenAI为何选择接下这份合同。

据Business Insider报道,Altman解释称,OpenAI之所以能够与美国国防部达成合作,是因为双方在合同条款上较快取得一致。“看起来Anthropic希望获得更多运营层面的控制权,而我们在厘清合同条款后,很快就达成了共识。”他说。

Altman同时表示,OpenAI已为AI模型的使用划定三条“红线”,但这些边界未来可能随着技术进步而调整。他称,对于ChatGPT是否回答争议性问题,公司可以自行决定;但涉及核武器应对等重大伦理议题,则应由政府作出决策。

他还透露,OpenAI与美国国防部的合作数月前就已开始非正式接触,近期转入保密谈判阶段。Altman表示,当前AI行业与政府之间的紧张关系,对Anthropic、市场良性竞争以及美国本身都构成风险;相关谈判的目标之一,是让所有AI研究机构都能在类似条件下参与竞标。

谈及AI在国防与安全领域的应用前景时,Altman称,这项技术未来将在网络攻击防御和生物安全方面发挥重要作用,尤其可用于应对可能导致国家电网瘫痪的网络攻击,以及下一轮疫情应对等场景。OpenAI还表示,如果政府违反合同条款,公司有权终止合同,但也补充称,这种情况出现的可能性并不高。

在此之前,美国国防部曾要求Anthropic将AI用于大规模监控,并推进自主武器相关开发。由于Anthropic拒绝配合,一份规模达2亿美元的国防合同被取消,其与联邦机构的合作也因此受阻。Anthropic已预告将采取法律行动。TechCrunch则指出,外界也因此出现一种批评声音:AI行业正陷入自己设下的困局。

瑞典裔美国物理学家、MIT教授Max Tegmark表示,AI企业长期回避监管的做法,如今正在遭到反噬。Anthropic、OpenAI、Google DeepMind等公司一方面持续强调安全性,另一方面却长期反对更强力度的监管。

相关分析认为,AI行业过去在近乎缺乏监管的环境中迅速扩张,反而使企业在面对政府要求时更难说“不”。Tegmark指出,随着AI被越来越多地视为国家安全风险的一部分,AI公司也开始承受由自身选择带来的后果。

他进一步表示,AI技术演进速度极快,但监管明显滞后。即便AI已发展到能够在高水平数学竞赛中夺冠的程度,企业仍主张依靠自律完成约束。然而,随着AI与国家安全议题直接挂钩,政府介入已不可避免。Tegmark强调,AI公司过去以“自律”为由阻止政府介入,如今这一选择反而束缚了自己。

目前,市场正关注AI企业会否以Anthropic事件为契机,重新调整与政府之间的关系,还是进一步接受更多国防合同。对于此次事件,Google和xAI暂未作出回应。

关键词

#OpenAI #Anthropic #美国国防部 #Sam Altman #AI合同 #国家安全 #大规模监控 #自主武器 #强监管 #Max Tegmark
版权所有 © DigitalToday。未经授权禁止转载或传播。