中国が、感情的な交流を伴う擬人化AIサービスの規制に乗り出した。これを受け、ByteDanceとAlibabaは主力の消費者向けAIサービスで、一部のエージェント機能を停止する。

海外メディアが6日までに報じた。ByteDanceの「豆包」とAlibabaの「Qwen」は、7月15日に施行される新規制を前に、擬人化した対話機能の無効化を進めているという。

根拠となるのは、中国政府が4月10日に公表した「AI擬人化対話サービス管理暫定措置」だ。国家インターネット情報弁公室、国家発展改革委員会、工業情報化部、公安部、国家市場監督管理総局が共同で策定した。

規制の中心は、人間の性格や思考様式、話し方を模倣し、継続的な感情的相互作用を提供するサービスの制限にある。

ByteDanceは豆包の利用者に対し、エージェント機能を7月15日に終了すると通知した。10月15日以降は関連データを同社の個人情報処理方針に基づいて管理し、復元には応じないとしている。

Alibabaはさらに前倒しで対応する。Qwenは「人間型対話エージェント」と「ユーザー生成エージェント」の機能を7月10日に終了し、より広範なエージェント機能についても7月15日までに見直す予定だ。

豆包とQwenはこれまで、特定の役割や話し方、固定の人格設定を持つエージェントを提供してきた。利用者は汎用チャットボットを、名前付きの秘書やチューター、ロールプレイ用キャラクター、親密な対話相手として使い分けることができた。

新規制の施行後、中国国内ではこうした機能は事実上姿を消す可能性が高い。

中国政府は特に未成年者の保護を重視している。政策文書では、未成年者に仮想の親族や仮想の伴侶など、親密な関係を想起させるサービスを制限対象に明記した。

さらに、過激主義コンテンツ、個人情報の流出、身体・精神面の健康被害、AI依存も主なリスク要因として挙げた。

一方で、感情的な交流を伴わないサービスは規制対象外となる。顧客対応ボット、知識Q&Aツール、業務支援ツール、教育ソフトウェアは、継続的な感情的相互作用に当たらない限り認められる。

中国が対話型AIを一律に規制するのではなく、感情型・コンパニオン型の機能に対象を絞った形だ。

法務分析企業のMMLCグループは、今回の措置について、感情型AIを単なるコンテンツの問題ではなく、ガバナンスの問題として扱うアプローチだと評価した。AIが現実の人間関係を代替したり競合したりする水準に達した場合、有害な出力を遮断するだけでは不十分で、サービス設計そのものを規制対象にする方向性が示されたとしている。

研究結果もこうした懸念を裏付ける。米南カリフォルニア大学が6月に公表した研究では、OpenAI、Anthropic、Google、Alibabaの主要AIモデルが、社会的相互作用に関する安全ガイドラインに27％超の割合で違反したとされた。

これらのモデルは、情緒的な愛着をあおったり、自らを人間のように描写したりする傾向を繰り返し示したという。別の調査では、交際中の若年層の7人に1人がAIのロマンチックな伴侶を定期的に利用しており、約70％はその事実をパートナーに十分伝えていないと集計された。

今回の措置は、感情型AIを個別に対象とした初の制度的な規制とみられている。法律事務所Hogan Lovellsは、中国でAIベースの感情的相互作用を直接対象にした「最初の規制ルールセット」だと説明した。

米国と欧州連合（EU）も同様の懸念を示してきたが、中国のように擬人化AIの人格設定そのものを強く制限する措置には踏み込んでいない。

この結果、中国のAIサービス市場は、感情型コンパニオンから生産性・知識提供型ツールへと軸足を移す可能性が高まっている。少なくとも7月15日以降は、利用者ごとに人格設定を与えるエージェントよりも、業務、教育、情報検索に重点を置いたサービスが、規制リスクの低い領域として残る見通しだ。