韩国广播媒体通信审议委员会21日表示，针对AI聊天服务中出现带有性暗示的角色设定，以及生成、传播涉及性行为描写对话等问题，已要求相关运营方进一步加强青少年保护措施。
当天，该机构在首尔木洞广播会馆召集15家AI聊天服务企业召开会议，讨论涉色情内容流通现状及青少年保护方案。
韩国广播媒体通信审议委员会称，在重点监测过程中发现，部分AI聊天服务在角色图片、个人资料和情境说明等环节，出现身体过度裸露或暗示性行为的信息；在用户与角色互动过程中，也存在生成性行为描写内容的情况。
该机构指出，AI聊天服务的内容风险程度，可能因运营方所采用的AI模型，以及角色和对话情境的设定方式不同而有所差异。
基于上述情况，该机构要求运营方提升AI聊天输入端和输出端对违法、有害信息的识别拦截能力，完善用户举报机制；同时明确区分未成年人可接触内容与成人内容，并对成人内容标注“对青少年有害”标识。
此外，该机构还要求持续开展安全检查，防止通过绕过登录等方式使基于实名验证的青少年访问限制措施失效。
与会企业在认同青少年保护措施必要性的同时，也反映了初创企业在运营过程中面临的现实困难，并就如何提升保护措施实效交换了意见。
韩国广播媒体通信审议委员会表示，将在听取企业意见的基础上，进一步了解各项服务的内容风险水平及青少年访问限制措施落实情况，并计划于11月启动正式审议。
记者信息
Seulgi Son (손슬기)
sageson@d-today.co.kr