Google DeepMind首席执行官Demis Hassabis近日在社交平台X（原Twitter）发文，就通用人工智能（AGI）时代的治理框架提出设想。他表示，随着AGI逐步逼近，相关风险也会随之上升，因此有必要尽快建立针对前沿AI的标准与评估机制。
Demis Hassabis建议设立一家“前沿AI标准机构”，并参考美国金融业监管局（FINRA）的运作框架推进建设。按照他的设想，该机构将在联邦政府监管下运行，资金主要来自行业，董事会则应吸纳独立技术专家以及开源阵营代表参与。
他提出，达到该机构所设门槛的模型可被归类为“前沿级”模型，开发这些模型的机构可被认定为“前沿实验室”。相关主体将被建议遵循一系列安全最佳实践，包括公开模型卡、加强内部安全措施，以及为安全研究配置专门资源等。
在实施初期，前沿实验室可在产品发布前最多30天自愿提交模型供审查；待整套机制成熟后，这一流程未来也可能转为强制执行。评估范围将涵盖网络安全、生物风险、绕过安全防护的能力，以及是否存在欺骗性行为迹象等内容。Demis Hassabis还指出，评估项目应定期更新，标准机构本身也应具备独立开展非公开测试的能力。
Demis Hassabis表示，这一框架面向所有前沿级模型，不因研发所在地不同，或模型采取开源、闭源路线而有所区分。如果由美国率先推动，未来有望据此形成国际通行的治理标准。
他同时强调，AGI有潜力推动科学和医学进步。但即便技术问题得到解决，社会仍将面对新的经济模式、价值取向以及“生活意义”等更广泛议题。
在他看来，这类问题不能只由技术人员决定，而应由社会各方共同参与讨论，并利用AGI真正到来前的窗口期，推动技术更好地造福全人类。
Demis Hassabis还警示称，前沿模型已在网络安全领域暴露出一定问题，随着能力持续提升，核风险和生物风险也可能很快显现。当前全球正处于激烈的商业竞争和地缘政治博弈之中，前沿技术的演进速度正在超过人类的理解速度，因此，“审慎的乐观主义”才是更合适的应对策略。
Chi-gyu Hwang
delight@d-today.co.kr