韩国国家人工智能战略委员会安全特别委员会委员长:Lee Won-tae

围绕“是否应放缓AI开发速度”的全球争论持续升温之际,韩国学界和产业界提出,前沿AI研发本身未必需要踩刹车,真正需要提速的,是验证、管控、事故处置和韧性建设等“责任速度”。

与会人士普遍认为,在中美AI竞争加剧的背景下,韩国不应在两者之间选边站队,而应率先提出双方都能接受的安全标准和协作框架,从以规则和阵营划界的讨论,转向更重视实际落地的“功能性协作”。

10月1日,在首尔中区首尔广场举行的“AI开发降速论研讨会”上,韩国国家人工智能战略委员会安全特别委员会委员长Lee Won-tae表示,与其推动带有阵营色彩或价值导向的规范性结盟,不如围绕各方共同面临的现实问题推进功能性协作。

Lee Won-tae指出,当前尤其需要关注AI开始参与改进自身的发展趋势。

他表示,评估AI风险时,不能只看模型性能,还应将自主性以及自我能力提升速度等因素纳入考量。

对于近期出现的“降速论”,Lee Won-tae强调,这并不意味着全面叫停AI开发。以Anthropic首席执行官Dario Amodei提出的“必须为前沿设定节奏(We must pace the frontier)”为例,其核心并非停止研发,而是调节验证、扩散和授权的推进节奏,为治理和安全控制争取时间窗口。

他认为,争论的关键不在于“要不要放慢AI”,而在于“是否任由AI以不可控的速度推进”。只有让验证、扩散控制和授权管理与技术演进同步,安全和治理能力才能跟上发展节奏。

在Lee Won-tae看来,韩国有必要将此前副总理兼韩国科学技术信息通信部部长Bae Kyung-hoon提出的“速度责任论”,进一步细化为可执行的政策和机制安排。

他说,韩国的答案不是单纯降速,而是对速度负责。前沿模型研发和产业化应用不应放慢,但验证、事故通报、韧性建设等责任机制的提升速度,必须快于风险扩散速度。

他还强调,安全不是加速的对立面,而是加速得以持续的前提。“有竞争力的AI”不仅要性能领先,还必须能够安全部署,并在事故发生后具备恢复能力。

研讨会上,多位与会人士还就韩国在国际AI安全治理中的定位展开讨论。

Lee Won-tae表示,当前国际AI安全讨论存在明显分层:一边是拥有最前沿模型的美国与中国之间的双边竞争,另一边则是以中等国家为主导的多边安全议题。韩国不应陷入中美二选一,而应围绕事故分级体系、评估标准、事故通报流程、人类控制和系统韧性等议题先行提出框架。

他指出,韩国的角色不在于站到美国或中国任何一边,而在于提出中美及多边机制都能够接受的功能性“最大公约数”,并率先拿出可落地的替代方案。

这也意味着,韩国不应只是被动接受既有国际标准,而应以“共同设计者”的身份参与AI安全评估、治理和事故处置规则的制定。

AI安全研究所所长Kim Myung-joo则将AI比作“数字核武”,强调建立国际协作机制的必要性。他表示,在中美分别围绕类似“AI保护伞”的体系展开竞争的情况下,韩国需要提升独立的验证和评估能力,才能更主动地参与国际合作。

产业界也提出,应通过多边协作框架,避免由少数国家或企业垄断国际规范制定主导权。

FortyTwoMaru首席执行官Kim Dong-hwan表示,应依托覆盖不同领域的国际组织推动多边协作体系建设,避免国际规则被特定国家或企业利益所主导。韩国也需要在国际AI安全规范制定过程中展现更强的全球领导力。

另有观点认为,若要真正提升“责任速度”,首先必须调整现有AI评估方式。

Soongsil University AI安全性研究中心主任Choi Dae-seon指出,如果仍以单一模型的基准测试分数来判断能力和风险,可能会低估AI系统在真实环境中的实际能力释放水平。

他解释称,同一模型一旦接入多个智能体和外部工具,并获得额外资源与权限,其能力表现可能显著变化。一些体量较小、获取门槛较低的模型,也可能借助智能体和工具组合,具备高水平网络攻击能力。

因此,他主张将评估重点从“以模型为中心”转向“以整体解决方案能力为中心”。

Choi Dae-seon表示,应对包含智能体、外部工具以及实际行为在内的完整AI系统开展独立、客观评估,同时将权限控制、行为监测、事故发生时的停机与权限回收、日志留存和恢复机制纳入安全评估范围。

研讨会上还提出,韩国有必要建立本国的基准测试和评估标准体系。

AIM Intelligence副社长Lee Han-ul表示,获取顶级AI模型固然重要,但同样关键的是具备判断模型真实水平和风险程度的能力。

他指出,国产模型并不天然等于更安全。韩国不能停留在照搬海外标准,而应结合本国环境和威胁水平,制定适合自身的评估条件与验证方法。

Lee Han-ul还表示,韩国需要持续积累并共享AI安全使用经验和事故信息。只有沉淀“如何发现并应对真实漏洞”的实践经验,韩国才能在国际AI安全讨论中凭借自身标准和证据发声。

与此同时,产业界也担心,如果以AI安全为由放慢前沿技术研发节奏,作为追赶者的韩国与领先阵营之间的差距可能进一步扩大。

Upstage首席执行官Kim Sung-hoon表示,AI正从辅助人类研发,走向直接参与AI研发本身,技术演进速度已经进入不同量级。

他将“超智能(Super Intelligence,SI)再次投入AI开发并推动技术加速”的阶段称为“SI²(SI square)”。在他看来,一旦递归式自我改进全面启动,领先者与追赶者之间的差距可能会以更快速度拉大。

Kim Sung-hoon表示,对追赶者而言,停下来就意味着落后,韩国也必须持续获取前沿AI能力。

FortyTwoMaru首席执行官Kim Dong-hwan也表示,虽然理解“需要降速”的问题意识,但一刀切限制开发并不具备现实可行性。

他指出,技术进步速度远快于社会制度和伦理共识的形成速度。尽管各界普遍认同安全治理的必要性,但要全面落地并不容易。更现实的路径,是在推动AI产业发展的同时,同步建设安全机制。

Kim Dong-hwan进一步提出,应建立以安全和可靠性为前提的基于风险的管理体系,按照AI风险水平差异化配置管理强度,优先在公共和产业场景部署能够控制幻觉、数据泄露等风险的技术安全装置,再逐步扩大可控、可验证的智能体AI应用范围。

与会人士还指出,即便掌握了较成熟的AI安全技术,企业现场落地也未必能够同步跟上。

Lee Han-ul表示,不少企业将负责发现漏洞的安全团队,与掌握服务变更权限的开发运维团队分离管理;同时,由于打补丁可能影响既有服务稳定性,现实中往往难以及时修复已经发现的漏洞。

多位专家认为,要把AI安全技术真正转化为企业安全能力提升,企业还需要同步调整整体运营体系,包括上线前验证、故障应对机制、补丁权限配置以及责任主体划分等在内的流程设计,都必须一并完善。

关键词

#AI安全 #前沿AI #功能性协作 #中美竞争 #事故分级 #评估标准 #事故通报 #基于风险的管理 #AI韧性 #Upstage #Anthropic
版权所有 © DigitalToday。未经授权禁止转载或传播。