美国和中国安全领域专家提出一套共同原则，核心主张是：是否攻击核指挥体系、是否使用核武器等关键决定，不能交由人工智能（AI）自主作出。

据媒体Decrypt 17日（当地时间）报道，Brookings Institution与Fudan University联合发布的一份报告建议，将长期适用于核武器领域的“人类控制”原则，延伸至更广泛的军用AI场景。

报告的核心观点是，在涉及核指挥、控制与通信体系（NC3）的决策中，不应赋予AI自主决策权。研究团队认为，Donald Trump与Xi Jinping可以就一项底线原则达成共识，即是否对对方NC3或关键基础设施发起网络攻击，必须由人类作出决定，而不能交由AI判断。报告写道，针对彼此NC3或关键基础设施的网络攻击，是否启动攻击行动，必须由人类决定并承担责任。

报告指出，NC3承担威胁探测、核武器使用决策以及发射命令传递等任务。这一链条中任何一个环节失效，都可能造成通信中断、攻击误判，诱发先发制人打击，甚至导致意外或未经授权的发射。研究团队认为，应尽可能降低由偶发因素、人为失误、不可预测的AI行为以及未经授权行为体引发的战略性风险。

研究团队还表示，将核领域“人类控制”的原则扩展至其他军用AI用途，并不以美中先就更广泛的网络安全原则达成一致为前提。他们指出，将“具有战略影响的攻击必须体现人类意图并由人类负责”这一原则向外延伸，并不意味着华盛顿与北京必须同步共享更多网络安全规则。

除上述原则外，报告还建议设立美中军用AI热线，并就“人类控制”形成统一定义。报告认为，AI判断速度过快、行为又难以预测，可能使各国领导人在危机出现时几乎没有时间阻止局势升级。尤其在军事场景下，毫秒级自动化决策一旦出错，错误警报或网络攻击就可能迅速升级为核危机。

报告提到的风险，也与今年2月一场战争推演实验引发的担忧相呼应。在这项测试中，OpenAI、Google和Anthropic的模型在95%的测试场景中作出使用核武器的选择。不过，相关专家同时提醒，这一模拟设计本身也可能带有诱导局势升级的倾向。

同样在2月，Anthropic拒绝了美国国防部的一项要求，即放开Claude在大规模监控和全自主武器系统相关用途上的限制。随后，Trump政府一度要求联邦机构停止使用Anthropic技术。但联邦法院于8月28日裁定，政府针对Anthropic的做法构成非法报复。

围绕放缓AI开发节奏、坚持人类控制的呼声，也正在行业内扩散。本月初，Anthropic CEO Dario Amodei呼吁开发者在性能竞赛中放慢脚步，Sam Altman和Elon Musk随后也表达了支持态度。OpenAI则已就企业能否在不违反反垄断法的前提下协调开发节奏一事，向国会提出询问。

不过，该报告认为，在缺乏覆盖范围更广的开发限速协议情况下，眼下仍可先把规则限定在“最低限度、且可立即落实”的范围内：无论是核指挥体系攻击授权，还是核武器使用决定，都必须由人类作出。研究团队表示，军用AI治理不是一场可以等待的谈判，而是一场与时间赛跑的行动。