韩国国会科学技术信息广播通信委员会6日对韩国科学技术信息通信部进行国政监查,Frontier AI、自主基础模型、预算与算力基础设施,以及AI安全等议题成为问询焦点。
副总理兼韩国科学技术信息通信部部长Bae Kyung-hoon表示,将以政府国家AI项目总负责人的身份,推动重点项目落实。
当天,国民力量党议员Park Jeong-ha重点追问,规模达4.7万亿韩元的Frontier AI项目,为何会在既有自主基础模型项目推进过程中新增提出,并就项目提出背景、总统府及相关部门之间的协商决策流程进行质询。
Bae Kyung-hoon回应称,Frontier AI议题由其提出。他表示,仅凭现有自主基础模型的能力,难以充分应对科学难题和网络安全等高难度任务;这一项目并非临时提出,而是在多轮讨论和前期构想基础上逐步形成。
对于是否将担任国家AI项目最终负责人这一提问,Bae Kyung-hoon回答“是”。他还表示,Frontier AI已在部门内部、相关部门以及总统府层面进行讨论,并通过财政部门和总统府内部协调机制向总统作出汇报,但未透露具体对接人员。
◆政府重申Frontier AI与自主基础模型并行推进
针对“Frontier AI是否事实上取代自主基础模型”的质疑,韩国政府强调,两者目标不同,自主基础模型项目将继续按计划推进。
Bae Kyung-hoon表示,自主基础模型的能力可以延伸用于Frontier AI研发,但二者并非同一项目。
据介绍,自主基础模型项目主要着眼于强化韩国本土自主AI能力,并推动其向产业、科研和公共领域扩展应用。根据政府说明,自第二轮评估结果起,相关模型将加快在跨部门通用AI平台等公共领域落地;第三轮则以开发接近全球开放权重模型水平的模型为目标。
相比之下,Frontier AI被定位为更高层级的项目,重点是研发可应对科学难题、网络安全等更复杂任务的顶级模型。
Bae Kyung-hoon指出,按原计划为自主基础模型配置的GPU规模,很难支撑其达到全球最高水平,但这并不意味着该项目目标设定失当,或项目本身已经失败。
与此同时,自主基础模型评估过程的公正性也受到质疑。国民力量党议员Kim Jang-gyeom指出,在用于评估的数据集建设项目中,部分企业存在重复参与情况。韩国科学技术信息通信部第二次官Ryu Je-myeong承认确有重复参与,但表示,相关机构具备数据建设方面的专业能力,不存在特殊照顾问题,也与自主基础模型参评企业不存在利益关联。
对于“跨部门通用AI平台大量采用海外模型”的批评,政府表示将进一步扩大自主基础模型的应用范围。Bae Kyung-hoon称,科信部正推动将自主基础模型第二轮评估中产生的4个模型接入跨部门通用AI平台,后续还将逐步扩大其在公共领域的应用。
◆Frontier AI拟投4.7万亿韩元,GPU使用效率也成审查重点
Frontier AI的投资规模和投入方式同样引发关注。韩国政府明年“确保最顶级AI模型与技术”预算案总规模为5.3万亿韩元,其中约4.7万亿韩元拟用于Frontier AI模型开发。
根据Park Jeong-ha公开的科信部提交资料,Frontier AI相关投资构想包括:GPU投入3.85万亿韩元、竞争力强化支持8000亿韩元、人才领域250亿韩元等。
Bae Kyung-hoon表示,GPU预算对应的是确保1万张以上最新GPU的需求;同时强调,模型研发除算力外,还需要数据和人才等方面同步投入。
他还表示,政府正在研究以出资方式参与项目投资,而不是单纯向企业发放补贴。在回应共同民主党议员Han Jun-ho提问时,Bae Kyung-hoon称,面向Frontier AI模型追加投入的4.7万亿韩元,“也可能仍不足以实现目标”。
在追加大规模GPU投资之前,现有算力资源的使用效率也被纳入审查范围。
共同民主党议员Lee Ju-hee指出,按政府统计口径,近期GPU月均利用率约为50%,其中利用率低于20%的站点约有16处。
Bae Kyung-hoon解释称,政府当前提供的是最高规格的新型GPU,使用现有设备的初创企业和高校科研群体需要一定适应时间,这也是初期利用率偏低的原因之一。
政府表示,后续将通过技术和咨询支持提高GPU使用率;对于连续两个月以上处于低利用状态的资源,将研究回收并重新分配的方案。在AI训练场景中,将维持固定分配机制;同时,也会研究在短期AI服务开发等场景中引入动态分配方式。
◆AI安全投入偏低引发关注,政府拟于12月公布总体方案
随着AI性能和基础设施投入持续扩大,安全领域投入不足的批评也在升温。
Lee Ju-hee指出,AI性能和基础设施相关预算达到6.149万亿韩元,而安全与可信相关预算仅为274亿韩元,二者相差约224倍;AI安全研究所目前也仅有38名人员,因此有必要扩大安全领域投入。
共同民主党议员Kim Woo-young提到,在AI安全研究所进行的外部攻击防御实验中,面对提示注入、内部存储信息篡改、记忆偏置等攻击,系统多次防御失败。其中,记忆偏置攻击的攻击意图达成率高达91.9%。
Bae Kyung-hoon表示,必须为AI可能超出人类控制范围的情况提前做好准备,“需要类似Kill Switch的人类控制装置”。
针对外部网络威胁,政府计划利用正在开发的网络安全专用AI模型以及拟研发的Frontier AI模型,提升应对能力。
韩国政府还计划于今年12月公布《国家AI安全生态建设总体方案》,内容将包括三大方向:建立国家AI安全管理体系、强化先进AI安全应对能力,以及营造面向公众日常生活的安全AI环境。
在高影响力AI监管有效性方面,祖国革新党议员Kim Seon-min指出,已获得食品药品安全处许可、达到2级及以上的AI医疗器械多达538个,但向韩国科学技术信息通信部申请确认是否属于高影响力AI的企业仅有3家。
对此,Bae Kyung-hoon表示,政府将研究是否有必要进一步完善高影响力AI的细则标准,评估内容将包括医务人员是否介入、系统是否可控,以及AI对诊断和治疗造成的影响等。