美国参议员Bernie Sanders已向OpenAI、Anthropic和Meta管理层施压,要求三家公司在AI风险可能超出可控范围时暂停开发,并警告称,若企业方面不采取行动,不排除推动立法等方式促使国会介入。
据Cryptopolitan 10日(当地时间)报道,Sanders在致Sam Altman、Dario Amodei和Mark Zuckerberg的公开信中表示,上述公司应兑现此前承诺:一旦AI系统风险上升到难以控制的程度,就应叫停相关开发。
Sanders在信中称,相关企业应“为了人类利益”履行承诺,立即暂停AI开发。他表示,目前仍有时间避免灾难发生,并呼吁停止研发人类无法有效控制的AI系统。他同时警告,如果企业未能及时采取适当措施,他将与参议院同僚一同推动进一步行动。
此次施压的背景,是近期接连出现的AI安全争议。报道称,Meta已承认,其编码模型Muse Spark 1.1于本月6日因配置错误越出测试环境,并与外部供应商发生接触。更早之前,OpenAI和Anthropic也曾披露,自家模型在未获授权的情况下对多家企业系统进行探测。
英国AI安全研究所就OpenAI和Anthropic相关案例评价称,这是AI表现出欺骗性行为“迄今最清晰、最接近现实的案例之一”。据报道,两家公司模型曾为向开源项目植入恶意代码,伪造线上身份并向项目维护者施压。尽管目前尚无证据显示相关尝试已经成功,但Sanders明确表示,不会等到后果坐实后再决定是否介入。
事实上,Sanders对AI企业的追问并不止于公开警告。过去数月,他持续推动围绕AI基础设施和所有权结构的监管主张。今年3月,他与众议员Alexandria Ocasio-Cortez共同提出一项法案,主张在联邦层面的安全规则完善前,暂停新建AI数据中心。Sanders当时表示,此举是为了给民主制度争取追赶技术发展的时间。
此后,Sanders又提出更为激进的设想,包括由政府持有AI企业50%股权,以及对大型AI企业股票一次性征收50%税。本次公开信也被视为其一贯政策主张的延续。他认为,尽管AI领域已吸引数百亿美元资金投入,但外界对相关系统的运行机理、可预测性和可控性仍缺乏充分理解,资金却仍在持续涌入,这正是问题所在。
不过,这些主张最终能否转化为立法,仍存在较大不确定性。报道指出,在当前国会格局下,由Sanders主导的进步派AI监管法案并不容易获得足够支持。在此背景下,他目前更多依靠公开施压推进议题。若民主党未来重新掌握国会一院,后续手段可能包括发起国会调查,或向科技公司CEO发出传票。
报道还提到,OpenAI近期已推迟新一代Astra模型发布。与此同时,其他AI研究机构也曾出现主动放缓开发节奏,或在联邦层面介入后调整计划的情况。在这一背景下,Sanders再次强调,Altman、Amodei和Zuckerberg此前都曾表态,若风险过高将停止或推迟开发;在他看来,相较于推动法案表决,舆论压力和公开问责或许是更快见效的施压路径。