韩国科学技术信息通信部正建立由公众参与的AI安全常态化监测机制，以持续发现并上报人工智能使用过程中出现的错误和风险案例。
韩国科学技术信息通信部与人工智能安全研究所12日在首尔汝矣岛格莱德酒店举行“AI安全守护者”监测团成立仪式，正式启动面向公众的AI安全监测项目。
“AI安全守护者”主要面向生成式AI服务，负责从公众使用场景中发现并举报各类问题案例。今年8月至9月进行了两轮公开招募，共有138人报名，最终选出80名成员。监测活动将持续约一年，至明年8月结束。
此次监测重点包括四个方面：一是生成错误信息或虚构事实的“幻觉”现象；二是针对特定群体的偏见与歧视；三是安全防护被绕过、个人信息泄露等安全风险；四是无响应、重复作答等技术性缺陷。
对于监测团提交的案例，相关部门将从准确性、风险程度、可复现性和可利用性等维度进行核验。经确认的案例将作为AI安全评估和风险研究的基础资料，并计划向相关企业共享。
韩国科学技术信息通信部表示，此前已与人工智能安全研究所自去年12月起开展为期约30天的“无错误信息AI挑战”。在收到的625条举报中，最终确认464条为有效错误案例。此次成立监测团，旨在将阶段性活动升级为常态化监测体系。
韩国科学技术信息通信部人工智能政策室室长Eom Yeol表示，AI已成为各年龄层日常使用的工具，建设安全的AI使用环境需要各方共同参与；公众视角下发现的每一个错误，都会成为打造更安全AI的重要基础。
记者信息
Jin-ho Lee
jhlee26@d-today.co.kr