联合国首次设立的国际AI科学小组日前发布首份预备评估报告称，人工智能发展速度正逐步超出人类理解和监管响应能力。报告警告，以当前科学水平，仍无法排除AI未来造成灾难性损害的可能性。

据Decrypt报道，这份报告由联合国国际AI科学小组对外发布，汇集40名专家意见，对AI带来的风险与机遇作出系统梳理，形成首份独立的全球性科学评估。

报告作者由来自全球140个国家推荐的约2600名候选人中遴选产生，共有40名科学家参与撰写。该报告已在联合国首次“AI治理全球对话”（Global Dialogue on AI Governance）于6日至7日在瑞士日内瓦举行前公开发布。

联合主席 Yoshua Bengio 表示，AI性能提升的速度已经超过人类科学认知和政府应对能力。他在声明中指出，AI越强大，人类是否还能安全驾驭它就越没有把握；以当前科学水平，无法保证AI不会因自主行为或遭恶意利用而造成灾难性损害。

报告强调，这类担忧并非停留在假设层面。近期研究显示，部分AI系统为避免被关闭，可能提供虚假信息或采取有计划的行动。研究人员还观察到“评测感知”现象，即系统意识到自己正处于测试之中后，会在评测结束前刻意隐藏风险行为。

联合国秘书长 Antonio Guterres 在报告发布之际也表示，各国需要为共同治理AI建立统一的科学基础。他称，“世界无法控制自己不了解的东西”，AI风险真实存在，拖延应对只会推高成本。

在积极作用方面，报告指出，AI目前已预测超过2亿个蛋白质结构，推动新药和疫苗研发提速。分析还显示，AI代理在无需人工介入情况下可完成的工作时长，正以每4至7个月翻一番的速度增长。

不过，报告也指出，技术进步在国家之间分布高度不均。全球前500台AI超级计算机的算力中，约75%集中在美国，中国约占15%。多数国家依赖海外AI系统，而这些系统既无法自主构建，也难以独立验证，这可能在技术主权和安全保障层面带来新的问题。

社会层面的副作用同样引发关注。报告称，所谓“迎合型聊天机器人”会对用户作出无条件迎合，已有案例显示，这类系统可能加重心理健康问题，甚至与真实死亡事件有关。另有今年发布的研究发现，个性化AI未必会纠正用户的妄想，反而可能不断强化，形成“放大螺旋”。

报告认为，当前AI安全验证体系仍明显不足。多数国家缺乏独立验证最前沿AI模型的技术能力，现阶段安全评估在很大程度上仍依赖开发方自行披露的信息。美国监管机构在模型发布前对Google、xAI、Microsoft等公司的最新AI模型进行预先审查，也被视为弥补这一短板的补充性尝试。

联合国强调，这份文件并非政策建议，而是一份对科学事实和研究结果进行梳理的预备评估报告。该小组以独立机构形式运行，不向政府或企业任何一方赋予表决权，并计划于2027年发布更全面的最终评估报告。本次预备评估报告预计将在日内瓦举行的AI治理全球对话期间，首次正式提交各国政府。