随着AI聊天机器人涉有害信息、诱导青少年过度沉迷等问题持续发酵，韩国政府正加快完善相关监管与保护措施。在推进《信息通信网法》《AI基本法》等制度修订的同时，监管部门也在酝酿制定专门的AI服务用户保护法。

据悉，韩国广播媒体通信委员会正筹备制定暂名为《AI服务用户保护法》的新法，重点在于预防AI服务引发的用户权益受损，并建立相应的权利救济机制。

根据韩国政府去年12月公开的法案草案，新法拟纳入多项内容，包括要求AI企业履行防止违法信息生成和传播的义务；针对未满19周岁的青少年，采取措施防止生成有害信息及诱导沉迷；就“关系型AI服务”设立特别规定；并引入用户权益保障和争议调解制度。

韩国广播媒体通信委员会已于今年5月启动第二期“AI服务用户保护政产学研协商机制”，就相关制度改进方案展开讨论。8月的讨论重点包括，如何针对AI服务中的违法及有害信息建立技术性安全措施，以及企业自律监管方案等。

韩国广播媒体通信委员会相关人士表示，与去年公布的草案相比，《AI服务用户保护法》的整体立法方向变化不大。后续将在可行范围内吸收协商机制中提出的儿童和青少年保护措施，以及产业界、学界和法律界等各方意见。不过，该人士也指出，立法时间表仍可能因议员提出法案等推进方式及实际情况而调整。

除推进立法外，韩国广播媒体通信审议委员会也将于11月启动对AI聊天服务的正式审查。此次审查将依据现行《青少年保护法》《信息通信网法》及《信息通信审议规定》等法律法规和规则进行。

在正式审查启动前，韩国广播媒体通信审议委员会已于本月21日与15家海内外AI聊天服务运营商召开协作会议，分享涉及色情角色信息和生成式对话等案例，并要求企业强化对AI输入端和输出端违法及有害信息的拦截能力，同时限制青少年接触成人内容。

韩国广播媒体通信审议委员会表示，AI聊天服务提供的角色信息，以及图片、文本等AI生成内容，均将纳入审查范围。若经审查认定相关服务属于“青少年有害媒介物”，运营方将依法承担标注青少年有害标识、开展年龄及身份核验、限制青少年访问等义务。若发现淫秽信息、儿童及青少年性剥削物等违法内容，即使不被认定为“青少年有害媒介物”，监管部门也可另行要求删除整改。

韩国广播媒体通信审议委员会相关人士表示，审查将综合评估AI聊天服务中的角色信息、AI生成内容的色情性，以及服务运营结构等因素后推进。与此同时，针对青少年过度沉迷和过度依赖问题，除内容审议之外，仍需更多政策支持和法制完善。

韩国科学技术信息通信部支持修法，国会亦推进强化保护义务

作为AI基本法主管部门，韩国科学技术信息通信部目前也在支持围绕法律修订展开的制度改进工作。

今年3月，由产业界、学界及公民社会专家参与的“AI基本法制度改进研究组”已启动讨论，并持续开展相关研究，计划在年底通过公开听证会披露更具体的修订方向。

韩国科学技术信息通信部相关人士表示，围绕AI基本法，相关讨论几乎已涵盖此前提出的主要议题，但目前尚难确认青少年保护问题是否已进行具体讨论。由于修订案涉及多方利益相关者，最终纳入哪些内容仍有待观察。

与此同时，韩国国会也已提出多项旨在强化AI企业青少年保护义务的法案。在《信息通信网法》修订方面，包括共同民主党议员Lee Juhui于今年3月提出的方案，拟禁止AI服务生成和提供青少年有害信息，并强化关系型AI保护措施；共同民主党议员Cho Incheol也提出方案，主张强制实施年龄验证和监护人同意机制。Lee Juhui本月还追加提出修订案，拟强制AI聊天机器人提供使用时长提示和限制功能。

在AI基本法修订方面，祖国革新党议员Jeong Chun-saeng于今年1月提出方案，要求面向青少年的AI服务必须采取技术性保护措施，例如预防自杀和自残、拦截有害内容；Cho Incheol则于今年6月提出方案，主张将儿童和青少年纳入AI脆弱群体，并强化国家层面的保护对策。上述两项法案目前正在国会科学技术信息通信委员会审议。

不过，在AI基本法修订、《信息通信网法》修订以及单独制定用户保护法同步推进的情况下，也有观点认为，有必要进一步厘清各项监管的适用范围，并讨论如何更有效地保护儿童和青少年的权益。

Gachon University法学系教授Choi Kyung-jin表示，青少年保护不应被简单理解为“一律限制使用”，而应以儿童和青少年的最大利益为出发点，判断究竟是限制更合适，还是保障其自由选择权更为妥当。他还指出，有害信息拦截本就是现有法律体系长期处理的议题，但考虑到AI生成和传播信息的速度更快，相关制度也有必要进一步完善。