随着中国收紧对拟人化、情感陪伴类人工智能(AI)服务的监管,ByteDance与Alibaba正调整旗下主要面向消费者的AI产品功能。
据外媒Decrypto等报道,ByteDance旗下Doubao和Alibaba旗下Qwen正在7月15日新规生效前,陆续关闭与拟人化互动相关的智能体功能。
此次调整源于中国政府4月10日发布的《AI拟人化互动服务管理暂行措施》。该措施由国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局联合制定,重点限制模拟人格特征、思维方式和表达语气,并提供持续情感互动的AI服务。
根据ByteDance向Doubao用户发布的通知,相关智能体功能将于7月15日终止;10月15日后,相关数据将按照公司个人信息处理政策进行管理,且无法恢复。Alibaba的调整更早一步。Qwen将于7月10日下线“拟人化互动智能体”和“用户生成智能体”功能,并计划于7月15日进一步清理范围更广的智能体服务。
在此之前,Doubao和Qwen都支持用户为智能体设定特定任务、语气和拟人化角色。用户可将通用聊天机器人配置为有名字的助手、家教、角色扮演对象或陪伴类角色。随着新规落地,这类功能今后在中国市场继续提供的空间将明显收窄。
未成年人保护是此次监管的重点之一。政策文件明确将面向未成年人提供“虚拟亲属”“虚拟陪伴者”等亲密关系服务列为限制对象,同时提到极端内容传播、个人信息泄露、身心健康受损以及AI成瘾等风险。
不过,并非所有对话式AI服务都在限制之列。客服机器人、知识问答工具、办公辅助工具和教育软件,只要不以持续情感互动为核心功能,仍可继续提供。换言之,中国此次监管并非针对全部对话式AI,而是将情感陪伴类、拟人化互动类服务单独纳入重点监管。
法律分析机构MMLC Group认为,这一举措表明,监管部门正将情感型AI视为独立治理议题,而不再仅仅把它当作内容安全问题处理。该机构判断,一旦AI发展到可能替代或竞争真实人际关系的程度,仅靠拦截有害输出已不足以应对风险,服务设计本身也将被纳入监管范围。
相关研究也印证了这一担忧。美国南加州大学今年6月发布的研究显示,OpenAI、Anthropic、Google和Alibaba的主要AI模型,在社会交互安全指引方面的违规比例超过27%;这些模型多次表现出鼓励情感依赖,或将自身描绘为人类的倾向。另一项调查则称,在处于恋爱关系的年轻人中,平均每7人就有1人定期使用AI浪漫陪伴者,而约70%的使用者并未充分告知伴侣。
报道指出,这被视为中国首次针对情感陪伴类AI推出制度化监管安排。律所Hogan Lovells将其称为中国首套直接面向AI情感互动的监管规则。相比之下,美国和欧盟虽然也提出过类似担忧,但尚未像中国这样,对拟人化AI角色设定采取如此明确的强限制路径。
在这一背景下,中国AI服务市场的竞争方向或将从情感陪伴转向生产力工具和知识型应用。至少在7月15日之后,相比“用户自定义人格”类智能体,聚焦办公、教育和信息检索的服务面临的监管风险将相对较低。