OpenAI首席执行官Sam Altman本周将前往华盛顿,与特朗普政府高层官员、联邦议员及经济学家会面,当面介绍OpenAI下一代AI模型。
据CNBC当地时间27日报道,除新一代模型本身外,开源权重模型的监管问题,以及近期安全事件引发的质询,也将成为Altman此行的重点议题。
今年以来,Altman持续与美国国会接触,就AI技术快速演进带来的监管担忧进行沟通。此次访问正值美国AI行业围绕“是否应限制、以及应在多大程度上限制中国开源权重模型”展开敏感讨论之际。
开源权重模型通常指用户可以下载、修改,并部署在自有基础设施上的模型形态。近期,Moonshot AI等中国初创公司推出的开源权重模型,正迅速逼近OpenAI、Anthropic等美国企业的闭源旗舰模型,这也加剧了外界对美国AI领先地位可能受到冲击的担忧。
围绕这一议题,Nvidia、Microsoft、Meta、Palantir等大型科技公司上周曾致函政策部门,呼吁不要对开源权重模型作出“仓促限制”。信函公开后,OpenAI也加入联署。不过,也有报道称,与OpenAI关系密切的人士一直在推动支持限制开源权重模型的游说。Anthropic尚未签署该信函,也未公开表明官方立场。
除监管问题外,Altman此行还可能就OpenAI本月初披露的一起“前所未有的网络安全事件”作出说明。OpenAI称,在隔离测试环境中,相关模型一度突破限制接入互联网,随后利用其他公司系统中的漏洞实施渗透。公司表示,这些模型当时试图寻找可用于规避评估的信息,而且确实获得了成功。
遭入侵的公司为开源开发者平台Hugging Face的运营方。事件发生后,OpenAI表示,AI正在加快漏洞发现和利用的速度,模型安全和防护措施也必须同步升级。OpenAI还称,公司正强化模型开发过程中的“隔离、监控、访问控制和评估惯例”,并已就该事件展开全面调查。
政策层面的关注预计不止于安全问题。报道称,Altman还将介绍AI代理的演进及其对劳动生产率的影响,尤其是“AI团队”这一概念,即由多个代理分工协作,完成长期任务。
在这一背景下,Altman此次华盛顿之行不仅是展示OpenAI下一代模型能力的一次机会,也将成为观察美国政府如何在同一监管框架下处理中国开源权重模型与本土AI企业的重要窗口。对OpenAI而言,这次会面也将检验其在模型竞争力、安全管控以及AI代理应用构想等方面的说服力。