韩国国会12日举行国政监察,在线平台的治理责任成为核心议题。多名议员指出,毒品交易、性交易中介等非法信息仍可借助平台传播,而拦截、删除及受害者保护机制未能有效发挥作用。与此同时,AI角色聊天服务在未成年人保护方面暴露出的漏洞,也将平台企业的管理责任和监管部门的执法实效再次推上台前。
当天,韩国国会科学技术信息广播通信委员会对韩国放送通信委员会展开监察,重点审视Google、Telegram、X等全球平台对非法内容的应对情况,以及AI服务的用户保护措施。会议还通报了Google、Apple应用内支付罚款案的进展,以及对KT涉嫌误导用户问题的调查结果。
非法信息治理承压,平台本地处置能力受质疑
国民力量党议员Cho Kyung-tae在现场演示称,在X搜索“ice”可以看到疑似毒品交易内容,搜索“条件见面”则会出现性交易中介广告。他同时指出,相关搜索结果在韩国与海外存在差异,反映出韩国境内对非法信息的管理仍有不足。
对此,X韩国法人代表Shin Chang-seop表示,搜索和内容过滤主要由总部负责,韩国法人难以直接处置相关问题。他承认,X在韩国对非法内容的响应速度确实偏慢,并称将向相关部门提出改进请求。
监管部门与平台之间的协作不足,也成为议员追问的重点。Cho Kyung-tae指出,韩国放送通信审议委员会与X方面仅协商过3次,且去年8月举行的最后一次会议并未涉及毒品信息问题。
围绕Google,非法偷拍内容的删除流程及受害者个人信息保护问题也被摆上台面。
共同民主党议员Lee Ju-hee表示,受害者在向Google申请删除非法偷拍内容过程中,个人信息等内容在外部网站曝光的案例至少有147起,并据此追究平台管理责任。她还指出,早在2020年就曾提出过删除相关个人信息的请求,质疑平台长期放任问题存在。
共同民主党议员Kim Woo-young则表示,举报删除流程中的身份认证程序繁琐,加之相关机构之间系统联动不足,导致非法偷拍内容删除进度被拖延。Google Korea社长Yun Goo就受害者信息曝光一事正式道歉,并表示将与总部协商防止类似事件再次发生的对策。
Telegram在儿童和青少年性剥削内容处置、以及配合侦查方面的表现,同样接受了审查。Telegram首席运营官兼合规负责人Sandeep Yadav表示,公司已运行AI检测系统,并为韩国主管部门设立24小时专用响应窗口,通常会在2至10小时内处理相关请求。
共同民主党议员Hwang Jeong-a还提到,所谓“Excel直播”等刺激性YouTube直播内容可能增加青少年暴露风险,此外非法内容网站仍可通过Google搜索被展示,平台应进一步强化自律管理。
会议同时讨论了平台算法的社会影响,以及对虚假和操纵性信息的应对方向。国民力量党议员Choi Hyung-du提及有关疑似网络舆论操纵账号的研究,认为除了监管内容本身,还应分析放大社会对立的行为模式和算法机制。
韩国放送通信委员会委员长Kim Jong-cheol表示,为应对舆论操纵问题,社会层面有必要就内容监管与行为监管的适当边界展开讨论。
AI角色聊天保护机制受质疑,审查滞后引发制度完善呼声
在AI角色聊天服务方面,未成年人保护措施的有效性,以及监管审查进度迟缓的问题,成为会议另一大焦点。
Lee Ju-hee指出,Scatter Lab旗下“Zeta”的用户中,青少年和二十多岁用户占比较高,而这类与AI建立情感关系的服务存在过度沉迷风险。她主张,应建立年龄核验、使用时长限制以及高风险对话应对机制。
祖国革新党议员Kim Sun-min表示,其议员办公室检查发现,即便开启面向未成年人的“Safe Mode”,系统仍会生成与自残、自杀相关的对话。Hwang Jeong-a也指出,平台甚至可以在无需成人认证的情况下生成涉及未成年人角色的性暴力、性剥削场景。
政府审查体系的局限也在此次监察中暴露。Kim Sun-min称,在119起与AI角色聊天相关的投诉中,仍有76起处于审查中;与“Baby Chat”有关的举报已审查494天,至今仍未得出结论。她认为,有必要为从受理投诉到作出审议决定设定明确时限。
韩国互联网自律政策机构(KISO)新技术小委员会委员长Hwang Yong-seok表示,目前正在制定AI角色聊天自律监管指南。不过,由于拟将保护对象年龄、使用时长限制等部分标准交由企业自行裁量,外界也呼吁制定更具体的安全标准。
Kim Jong-cheol表示,认同当前未成年人保护存在制度死角,今后将推动围绕《信息通信网法》修订或AI基本法完善,开展跨部门协商并提供立法支持。
此外,会议还提出,应在AI生成图片和视频的流通环节强化标识义务,并进一步细化平台企业的管理责任。
Google、Apple应用内支付罚款案本月或有结果,KT调查已结束
除平台内容治理外,针对平台企业和通信运营商的制裁程序,也是韩国放送通信委员会此次国政监察的重点议题。
其中,Google和Apple涉嫌强制应用内支付的罚款案,预计将于本月作出结论。该案自2023年10月预告罚款方案以来,至今约3年仍未完成最终处置。
Kim Jong-cheol表示,在补充听取意见并核查证据后,目前案件已进入最终审议阶段,预计“将在10月底前完成表决”。
针对KT在黑客事件中涉嫌误导用户的相关事实调查,也已结束。
Cho Kyung-tae质询称,KT在察觉遭黑客入侵迹象后,是否在未充分告知用户的情况下,仍强调自家服务的安全性,从而侵害用户的选择权。
对此,Kim Jong-cheol表示,韩国放送通信委员会已于9月向KT发送整改措施方案,后续将按程序推进委员会审议和表决;如确认存在违法事实,将依据相关法律考虑采取整改命令、罚款等措施。