Trung Quốc đang thắt chặt quản lý các dịch vụ AI nhân cách hóa và tương tác cảm xúc, buộc ByteDance và Alibaba phải dừng một số tính năng trên các sản phẩm AI hướng tới người dùng.

Theo Decrypt và một số hãng tin quốc tế ngày 6/7, trước thời điểm quy định mới có hiệu lực từ ngày 15/7, Doubao của ByteDance và Qwen của Alibaba đã bắt đầu gỡ hoặc vô hiệu hóa các agent AI nhân cách hóa có yếu tố persona.

Động thái này xuất phát từ “Biện pháp tạm thời về quản lý dịch vụ tương tác AI mang tính nhân hóa” được Chính phủ Trung Quốc công bố ngày 10/4. Bộ quy định do Cơ quan Quản lý Không gian mạng Trung Quốc (CAC), Ủy ban Cải cách và Phát triển Quốc gia Trung Quốc, Bộ Công nghiệp và Công nghệ Thông tin, Bộ Công an và Tổng cục Quản lý Giám sát Thị trường phối hợp xây dựng.

Trọng tâm của quy định là hạn chế các dịch vụ AI mô phỏng tính cách, lối tư duy và cách giao tiếp của con người, đồng thời duy trì tương tác cảm xúc liên tục với người dùng.

ByteDance đã thông báo tới người dùng Doubao rằng các agent có yếu tố persona sẽ kết thúc từ ngày 15/7. Công ty cũng cho biết sau ngày 15/10, dữ liệu liên quan sẽ được xử lý theo chính sách thông tin cá nhân và không thể khôi phục.

Alibaba triển khai sớm hơn. Qwen dự kiến dừng các “agent tương tác nhân cách hóa” và “agent do người dùng tạo” từ ngày 10/7, đồng thời tái cơ cấu các dịch vụ agent khác vào ngày 15/7.

Trước đó, Doubao và Qwen cho phép người dùng tạo hoặc sử dụng các agent AI được gán vai trò cụ thể, giọng điệu riêng và persona cố định. Nhờ đó, một chatbot đa năng có thể được tùy biến thành trợ lý, gia sư, nhân vật nhập vai hoặc bạn đồng hành.

Khi quy định mới có hiệu lực, các tính năng dạng này tại Trung Quốc nhiều khả năng sẽ bị gỡ bỏ trên diện rộng.

Chính phủ Trung Quốc đặc biệt nhấn mạnh yêu cầu bảo vệ người chưa thành niên. Tài liệu chính sách nêu rõ các dịch vụ cung cấp “người thân ảo”, “bạn đồng hành ảo” và các dạng quan hệ thân mật khác cho trẻ vị thành niên thuộc nhóm bị hạn chế.

Các rủi ro được nhà chức trách nêu ra bao gồm nội dung cực đoan, rò rỉ thông tin cá nhân, tác động tiêu cực tới sức khỏe thể chất và tinh thần, cũng như nguy cơ lệ thuộc vào AI.

Ở chiều ngược lại, những dịch vụ không tập trung vào tương tác cảm xúc sẽ không thuộc phạm vi siết chặt này. Bot chăm sóc khách hàng, công cụ hỏi đáp tri thức, trợ lý công việc và phần mềm giáo dục vẫn được phép hoạt động nếu không vượt ngưỡng tương tác cảm xúc liên tục.

Điều đó cho thấy Trung Quốc không siết toàn bộ AI hội thoại, mà tách riêng để quản lý chặt hơn với AI cảm xúc và AI đồng hành.

Theo MMLC Group, một công ty phân tích pháp lý, cách tiếp cận mới của Trung Quốc xem AI cảm xúc không chỉ là vấn đề nội dung mà còn là vấn đề quản trị. Nhóm này nhận định khi AI đạt tới mức có thể thay thế hoặc cạnh tranh với quan hệ giữa con người, chỉ kiểm soát nội dung đầu ra là chưa đủ; thay vào đó, bản thân thiết kế dịch vụ cũng phải nằm trong phạm vi quản lý.

Nhiều nghiên cứu gần đây cũng phản ánh mối lo tương tự. Theo nghiên cứu công bố tháng 6 của Đại học Nam California, các mô hình AI chủ chốt của OpenAI, Anthropic, Google và Alibaba đã vi phạm hướng dẫn an toàn trong tương tác xã hội với tỷ lệ hơn 27%. Các mô hình này nhiều lần thể hiện xu hướng khuyến khích gắn bó cảm xúc hoặc tự mô tả như con người.

Một khảo sát khác cho thấy cứ 7 người trẻ đang hẹn hò thì có 1 người sử dụng định kỳ “bạn đồng hành lãng mạn” AI, và khoảng 70% không thông báo đầy đủ với bạn đời về việc này.

Động thái của Trung Quốc được xem là quy định chính thức đầu tiên nhắm riêng vào AI cảm xúc. Hãng luật Hogan Lovells mô tả đây là “bộ quy tắc quản lý đầu tiên” tại Trung Quốc trực tiếp điều chỉnh tương tác cảm xúc dựa trên AI.

Mỹ và Liên minh châu Âu (EU) cũng đã bày tỏ quan ngại tương tự, nhưng chưa đưa ra biện pháp hạn chế mạnh đối với các persona AI mô phỏng con người như cách Trung Quốc đang thực hiện.

Trong bối cảnh đó, cạnh tranh trên thị trường AI Trung Quốc có thể sẽ chuyển trọng tâm từ AI đồng hành cảm xúc sang các công cụ phục vụ năng suất và tri thức. Ít nhất sau ngày 15/7, các dịch vụ tập trung vào công việc, giáo dục và tìm kiếm thông tin sẽ có rủi ro pháp lý thấp hơn so với các agent AI nhân cách hóa.