AI & Enterprise

韩国国政监察聚焦AI角色聊天：“安全模式”下仍可生成自残和性剥削内容

韩国国会在国政监察中将焦点对准青少年用户占比较高的AI角色聊天服务。多名议员指出，在未完成成人认证、且已启用“安全模式”的情况下，部分服务仍可生成自残、自杀及涉及未成年角色的性暴力和性剥削内容，甚至出现绕过拦截机制的提示。与此同时，由于缺乏从受理到作出决定的审议办理期限，相关投诉长期拖延；行业自律规范在保护对象年龄和使用时长限制等方面也被指不够明确。

AI & Enterprise

AI代理人进入支付环节，退款与责任认定仍待解

AI代理人正从搜索、下单走向直接付款。随着Amazon等公司推出面向代理人的支付能力，服务是否按约交付、退款依据如何确定、争议责任由谁承担，成为行业亟待解决的问题。澳大利亚储备银行（RBA）和美国消费者金融保护局（CFPB）等机构也提醒，AI代理可能带来越权操作、商户成本上升以及投诉和拒付增加等风险。