Google DeepMind首席执行官Demis Hassabis呼吁设立一个由美国主导的AI标准机构，对前沿AI模型进行审查和测试，并评估其可能带来的网络安全、生物风险等国家安全隐患。CNBC当地时间14日报道称，Hassabis还提出，也可考虑建立一个在美国联邦政府监督下运作的公私协作机制。

Hassabis当天在X平台发文称，面对人工通用智能（AGI）带来的潜在风险，必须尽快采取行动。他表示，前沿AI模型对网络安全构成的风险已经开始显现，随着模型能力继续提升，核风险和生物风险也可能在短期内上升。

在他看来，美国凭借经济和技术实力，在主导AI规则制定方面占据有利位置。他建议参考美国金融业监管机构FINRA的运作方式，设立一个由联邦政府监督、采取公私合作或自律监管模式运作的标准机构。该机构董事会应吸纳独立的顶尖技术专家以及开源社区代表。

Hassabis表示，这一机构若要开展大规模测试并吸引顶尖技术人才，必须具备充足的资金和算力资源。他认为，相关资金大概率仍将主要来自行业。

对于落地路径，Hassabis建议，可先由前沿AI研究机构在模型发布前30天自愿向该机构提交审查；待机制验证有效后，再将其转为在美国市场上线前的强制审查程序。在代理型AI测试方面，可重点检查模型是否试图绕过安全护栏、是否存在欺骗行为，同时核验AI生成图像的数字水印等做法，并据此建立相应操作规范。

这一提议提出之际，围绕前沿AI模型监管，行业与政府仍存在明显分歧。Hassabis提到，大约一个月前，他曾与Anthropic首席执行官Dario Amodei一同在Donald Trump出席的一场G7会议上，呼吁组建一个由美国主导的AI规则和标准联盟。本月早些时候，Sam Altman也在《金融时报》撰文称，有必要建立类似机构。

近期，在Trump政府对先进模型实施临时出口管制后，Anthropic已就相关问题与美国政府展开磋商。OpenAI也首次接到美国政府限制新模型发布的要求。在中美AI竞争加剧之际，美国国会正研究限制本国企业使用中国AI模型的方案。美国国务院也就相关问题表达了严重关切。