AI安全示意图。图片由ChatGPT生成

随着Claude Mythos等AI模型带来的网络安全威胁日益受到关注,韩国国内要求将“独立AI基础模型”项目提升至国家安全层面的声音正在升温。尽管该项目启动之初就已明确包含安全用途,但在全球安全形势变化背景下,其战略定位正进一步向国家安全能力建设倾斜。

韩国国家AI战略委员会下设的安全特别委员会近期召开首次例会,重点讨论Anthropic旗下Claude Mythos的最新动向及其可能带来的安全影响。Claude Mythos目前仍处于预览阶段,仅向部分企业开放。该模型可自主分析软件代码,发现尚无补丁的零日漏洞,并生成可直接用于实际攻击的漏洞利用代码。

Anthropic于本月7日披露该模型时表示,Claude Mythos曾在以安全性著称的类Unix操作系统OpenBSD中发现一个存在长达27年的漏洞,这一消息引发安全业界高度关注。

Anthropic同时强调,Claude Mythos目前并未向公众开放,也没有公布公开发布计划。不过,美国、欧盟、中国等主要经济体已在加快建立政企协同应对机制,围绕相关风险展开部署。

韩国政府也在同步推进相关应对。韩国科学技术信息通信部、金融监督院等部门已分别召开专题会议;直属总统的国家AI战略委员会也正式启动安全特别委员会。该委员会在首次会议上就三项方向形成共识,其中核心内容是推动“独立AI基础模型”项目从产业培育项目进一步延伸至国家安全能力建设,同时讨论构建AI驱动的实时防御体系,以及强化全球安全协作机制。

国家AI战略委员会安全特别委员会委员长Lee Won-tae表示,当前已进入由AI而非人类主导新一轮黑客攻防的阶段;如果现行安全政策跟不上技术演进速度,安全问题将成为韩国推进AI大转型、迈向AI强国的掣肘。

事实上,该项目自启动以来就一直强调安全用途。韩国科学技术信息通信部去年8月通过书面评审和现场发布评审遴选出5支团队,并在公布结果时明确表示,各团队开发或引入的基础模型应用方向包括壮大AI生态、提升公众获取AI的便利性、推动公共与经济社会领域的AI转型,以及服务国防和安全需求。

这一方向也与韩国总统办公室核心幕僚的判断一致。总统办公室AI未来规划高级秘书Ha Jung-woo在上任前出版的著作中写道,基础模型正越来越多地被作为国家层面的战略资产加以管理,未来即便是盟友,也可能面临访问权限受限的情况;如果只具备使用能力,而不掌握自主模型能力,就难以在谈判中占据有利位置。

尽管第二阶段评估标准的具体细则尚未公布,但外界普遍预计,安全能力相关内容可能被纳入考量。韩国科学技术信息通信部人工智能政策室室长Kim Kyung-man今年2月在追加遴选说明会上表示,“独立AI基础模型”的本质在于由韩国自主开发AI、立足AI主权,尤其在国防和安全领域强化自主权。

其中,第二阶段评估指标之一“应用推广能力”被视为关键。这一指标主要指模型在多产业及公共领域的实际落地和部署能力,外界据此判断,安全领域的推广和落地能力也有可能被写入评估标准。

韩国科学技术信息通信部相关人士表示,通过该项目持续打造世界级独立AI模型,在技术、政策和安全层面本身都具有重要意义;与此同时,依托该模型推动安全等专业领域应用落地,同样是项目的重要方向,现有评估体系也一直强调“推广应用”这一点。

据悉,安全特别委员会下一次会议除韩国科学技术信息通信部外,国家情报院、外交部、金融委员会等安全与外交相关部门也将参加。不过,这些部门是否会直接介入“独立AI基础模型”项目,目前仍不明朗。

国家AI战略委员会相关人士表示,由于Claude Mythos在国家安全层面迅速成为全球议题,安全特别委员会才召开首次会议;目前仍处于梳理动向、研判应对方向的阶段,跨部门协作方式、预算安排以及项目结构调整等事项,尚未进入正式定案环节。

按照计划,第二阶段评估将于今年8月进行。目前参与该项目的共有4支团队,分别为LG AI Research、SKT、Upstage和Motif Technologies。

关键词

#Claude Mythos #Anthropic #AI网络安全 #零日漏洞 #漏洞利用代码 #韩国科学技术信息通信部 #国家AI战略委员会 #独立AI基础模型 #第二阶段评估 #OpenBSD
版权所有 © DigitalToday。未经授权禁止转载或传播。