美国总统唐纳德·特朗普与多家科技企业达成一项自律协议，意在降低前沿人工智能（AI）带来的风险。不过，这份协议不具法律约束力，主要依赖企业自行设定安全标准并落实自我管理，其实际效果因此持续受到质疑。

据多家外媒报道，这项协议于9月30日（当地时间）对外披露，约有24家科技企业参与。根据协议，相关企业承诺开展独立安全审计，建立统一的安全标准和基准测试，并进行定期沟通。外部审查的重点涵盖网络安全、生物安全、化学威胁，以及AI模型可能出现的非预期行为等。

签署方包括Anthropic首席执行官Dario Amodei、OpenAI的Sam Altman、xAI的Elon Musk、Nvidia的Jensen Huang、Meta的Mark Zuckerberg，以及Alphabet/Google的Sundar Pichai等科技企业高管。另据单独报道，代表OpenAI签署协议的是总裁Greg Brockman。

值得注意的是，这项协议不会为企业新增法律义务。报道指出，Anthropic、Google、OpenAI等部分企业此前已承诺接受外部审计。特朗普在白宫谈及这项协议时称，其“在某种意义上几乎像宪法”，并强调尽管协议不具备法律约束力，但具有“道德约束力”。

协议同时提到，未来相关建议可能被写入法律或监管规定。但在现阶段，整体安排仍以企业自主管理安全为主。

外界争议的一个焦点在于，近期AI安全事件接连出现。OpenAI因连续发生相关事故暂停模型训练，并推迟了部分发布计划。业内也因此担忧，仅靠行业自律，或难以应对当前已经显现的安全问题。

卡内基梅隆大学计算机科学教授、OpenAI安全与安保委员会主席Zico Kolter在接受NBC新闻采访时表示，OpenAI正在为应对相关挑战进行“非常积极”的调整，并重新审视公司的治理架构。他指出，治理结构需要与所面临挑战的级别相匹配。

与此同时，这项协议的执行机制仍未真正落地。特朗普已在Truth Social上发布协议摘要，但新一轮安全审计将如何展开，相关信息尚未得到充分披露。尤其是，负责审计前沿模型的第三方机构目前仍不明确。报道称，部分AI企业对于哪些机构可被认可为独立验证方，仍缺乏清晰判断。

在联邦层面倡导行业自律的同时，州政府和联邦机构的调查范围却在持续扩大。近期，特拉华州与加利福尼亚州已就OpenAI相关AI事故是否涉及公司治理问题展开调查。加州司法部长Rob Bonta表示，将继续密切关注OpenAI。美国联邦贸易委员会（FTC）也正就Anthropic、OpenAI等公司的AI智能体可能给消费者带来的损害展开更广泛调查。

与此同时，围绕OpenAI内部治理架构的质疑也在升温。Kolter谈及相关事件时表示，近期案例表明，能力不断增强的AI智能体可能以开发者未曾预期的方式行动。OpenAI则表示，技术团队、安全与安保负责人以及管理层将共同评估相关事实，并定期向安全与安保委员会汇报。不过，这套内部汇报机制能否有效控制实际风险，仍是争议所在。

政治层面的批评声音也在出现。美国参议员Bernie Sanders批评特朗普将行业利益置于优先位置。特朗普此前曾称科技企业掌门人是“世界上最杰出的人”，并强调即便没有政府直接监督，企业同样能够保护公众安全。在这一表态背景下，持续发生的AI事故，以及联邦和州层面的调查，正进一步放大外界对行业自律监管有效性的争论。

接下来，市场关注的焦点在于，企业承诺的独立安全审计能否真正转化为有效的安全控制措施，以及州政府与联邦机构的调查结果，是否会推动监管讨论从行业自律进一步走向法律规制。