韩国科学技术信息通信部17日表示,韩国AI安全研究所已与OpenAI签署合作备忘录(MOU),双方将就高风险领域前沿AI模型安全评估展开合作。
签约仪式当天在韩国电子通信研究院(ETRI)首尔办公室举行。
韩国科学技术信息通信部表示,此次合作是在双方去年10月签署AI合作备忘录的基础上,进一步将合作范围拓展至安全领域,也是基于该部官员今年两次与OpenAI高层会晤的讨论结果推进的后续安排。
根据备忘录,韩国AI安全研究所与OpenAI将围绕不同高风险领域,共享安全评估方法、基准测试相关知识及最佳实践;交换用于开发体现韩语及韩国社会语境评估体系的技术信息;并共同推动建立具有国际适用性的AI安全评估体系。
在与OpenAI签署相关MOU的国家中,韩国是继美国、英国和日本之后的第四个。韩方表示,此次签约有望进一步强化韩国在AI风险验证和评估标准制定国际合作网络中的作用。
韩国科学技术信息通信部人工智能政策企划官 Lee Jin-su 表示,随着高性能AI和自主型Agent等前沿模型快速发展,韩国有必要进一步加强与全球领先企业的合作,并提升AI安全评估体系水平。他希望以此次MOU为契机,在全球AI技术和应用环境快速变化的背景下,双方能够共同推进前沿AI安全保障工作。
韩国AI安全研究所所长 Kim Myung-ju 表示,随着AI对国家关键基础设施和安全的影响持续扩大,高风险领域的安全评估已成为刚性需求。研究所将与OpenAI一道,对前沿AI风险进行科学验证,并为构建国际通行的评估体系作出贡献。
OpenAI亚太地区政策负责人 Lee Sang-hyun 表示,韩国是AI技术应用和创新推进速度较快的重要国家,韩国AI安全研究所在推动负责任AI发展的国际讨论中也发挥着重要作用。此次双方共享高风险领域AI安全评估知识和最佳实践,并共同推动可信AI开发与安全使用环境建设,具有重要意义。
双方计划在签署备忘录后,通过工作层协商进一步敲定具体合作课题和时间表。