英国政府警告称,如果人工智能(AI)监管继续滞后,全球可能重蹈核技术发展初期治理迟缓的覆辙。英国外交大臣Yvette Cooper呼吁,各国应尽快就AI风险治理展开协调,建立国际安全规则。
据区块链媒体Decrypt 6日(当地时间)报道,Yvette Cooper表示,围绕AI风险管理的国际协议应尽快提上议程。她认为,AI在推动医疗和机器人等领域创新的同时,也正在给战争、犯罪以及社会凝聚力带来新的风险。
Yvette Cooper在当天发表的文章中提到,她近日在中国深圳考察了AI和机器人在医疗场景中的应用,并称自己“看到了惊人的可能性”。但她同时警告,同样的技术也可能以令人担忧的方式改变未来战争形态、犯罪手段以及社会运行方式。
她强调,AI风险治理可能成为“未来十年最大的安全挑战”。如果等到问题真正发生后再着手立规,将为时已晚。因此,国际社会应优先为先进AI确立共同的安全原则和统一标准。
Yvette Cooper还将当前的AI开发竞赛比作早期核军备竞赛。她指出,国际社会围绕核技术形成更广泛共识,是在广岛原子弹爆炸之后才明显加速推进的,“我们没有时间等待AI出现一个‘广岛时刻’”。
她同时提出,英国应发挥自身外交影响力,推动包括美国、中国在内的主要AI开发国家开展协调,共同制定安全标准。
Yvette Cooper以2023年在英国布莱切利园举行的AI安全峰会为例称,当时共有29个国家和欧盟(EU)领导人与会,围绕AI新兴风险展开讨论。这在她看来,证明英国有能力在AI安全议题上推动全球协作。
报道称,这一表态也呼应了外界对AI能力快速跃升的安全担忧。英国AI安全研究所今年5月表示,OpenAI的GPT-5.5已成为第二个可在无人类协助的情况下完成模拟网络攻击任务的AI模型,并警告AI发起网络攻击的能力正在迅速增强。此前达到类似水平的是Anthropic的Claude Mythos Preview。
国际货币基金组织(IMF)也曾提醒,AI可能进一步降低发起网络攻击所需的技术门槛,从而放大全球金融体系面临的攻击风险,相关网络安全问题应被纳入金融稳定框架审视。
美国方面也在推进应对措施。报道指出,美国总统Donald Trump上月签署行政令,要求在先进AI模型发布前建立自律审查机制,并扩大AI网络安全项目,同时由政府机构评估可能影响国家安全的先进AI模型。
AI行业内部同样持续呼吁加强监管。Anthropic CEO Dario Amodei此前主张,应对先进AI模型实施强制性的第三方安全测试。此后,美国政府曾以国家安全担忧为由,要求限制Anthropic的Claude Fable 5和Mythos 5访问权限,该措施已于7月解除。
随着AI竞争加速延伸至医疗、金融和国家安全等领域,英国已明确主张,应通过国际协作优先建立事前安全标准,而不是在风险暴露后再被动补救。关键在于,主要国家能否不只将AI视为产业竞争工具,并共同推动全球层面的安全治理框架落地。