韩国国家AI战略委员会16日下午召开安全特别委员会首次会议,重点讨论近期备受关注的Anthropic“Claude Mytos”相关安全风险,以及金融业安装式安全软件的改进方案。
委员会表示,随着生成式AI和AI代理持续升级、应用范围不断扩大,网络安全环境也在迅速变化,对现有安全体系进行全面审视的必要性正在上升。
会议首先就Anthropic“Claude Mytos”的最新动向进行了紧急研判。委员会指出,外界正关注一种新的安全风险,即AI可能识别出长期未被人类发现的漏洞,从而带来新的攻击威胁。
在金融领域,会议还讨论了安装式安全软件的改进问题。与会者认为,这类软件不仅可能给用户带来不便,也存在被滥用为新攻击路径的风险,涉及安全模块管理程序、键盘安全程序等。
安全特别委员会与韩国科学技术信息通信部、金融委员会等相关部门共享了“Claude Mytos”的性能与威胁水平、韩国国内应对能力,以及企业和专家意见,并就下一步应对方向交换了看法。
与会委员一致认为,除排查国家关键基础设施、加强供应链安全等短期措施外,还应推进基于AI的实时防御体系建设,强化国家安全能力与自主AI基础模型项目之间的联动,并扩大全球安全合作机制。
安全特别委员会表示,下次会议除韩国科学技术信息通信部外,还将邀请国家情报院、外交部、金融委员会等机构参加,进一步讨论更具体的应对方案。
韩国国家AI战略委员会安全特别委员会主席 Lee Won-tae 表示:“新型攻击的主导权正从人转向AI。如果安全政策跟不上技术演进的速度,安全问题将成为AI大转型以及迈向AI强国道路上的障碍。”
他还表示,安全特别委员会将牵头发掘更具实效性的政策议题,并与有关部门协同,推动构建符合AI时代要求的国家安全体系。