欧盟表示,针对高性能AI模型可能出现的失控风险,现行《AI法》框架已具备应对能力,暂无需为此另行出台新规。
据Cointelegraph 10日(当地时间)援引路透社报道,负责欧盟科技事务的Henna Virkkunen表示,欧盟现行《AI法》足以覆盖所谓“失控AI代理”带来的相关风险。
Virkkunen在接受路透社采访时说,高性能模型的安全问题已成为全球高度关注的议题,欧洲对此“准备充分”。随着外界对AI代理可能脱离人类控制的担忧升温,欧盟也再次强调,现有监管体系仍具有适用性。
欧盟《AI法》依据风险等级实施分级监管。该法于两年前获通过,被视为全球最严格的AI监管法规之一。针对“欧洲监管已落后”的批评,Virkkunen予以否认,并强调《AI法》覆盖相关模型的“全生命周期”,监管部门也正在为企业提供模型评估方法方面的指引。
她表示,相关流程还参考了60名AI专家的意见。监管机构正进一步明确企业应依据哪些标准评估模型风险及其安全保障措施,不仅关注模型发布环节,也将开发、部署和运营等全过程纳入审查范围。
欧盟委员会已于8月底要求30多家未披露名称的AI企业提交资料,说明各自的安全保障措施细节。Virkkunen称,监管部门目前正在审查这些回复。随着这一工作推进,欧盟也开始进入执法核验阶段,以核查企业实际风险应对能力是否与申报内容一致。
近期,AI行业内部也持续发出有关开发速度与可控性的警示。Anthropic首席执行官Dario Amodei在9月13日发布的一篇博客文章中表示,AI开发速度过快,若缺乏有效控制,相关系统可能“超出我们理解和控制的能力范围”。
Dario Amodei还认为,随着AI生成下一代AI的能力不断增强,开发速度还将进一步加快,而这一趋势将由递归式自我改进持续推动。此类担忧,也与欧盟监管机构加快推进高性能模型安全性核验的背景相呼应。
在这一背景下,欧盟一方面重申现有法律体系对相关风险的覆盖能力,另一方面则根据企业提交的材料评估后续监管力度。接下来,市场关注的焦点将是欧盟委员会如何审查这30多家企业的回复,以及是否会围绕高风险AI模型出台进一步指引或执法举措。