中国最高人民法院は7日、人工知能（AI）を巡る紛争の審理指針を公表した。ディープフェイクや合成音声、AIのハルシネーションに伴う民事責任の判断基準を示したもので、本人の同意なく識別可能な顔や声を複製して使用・公開した場合、人格権侵害に当たる可能性があると明記した。

Cryptopolitanによると、同法院が発表したのは「AI関連紛争事件を法に基づき審理することに関する意見」。民法典や個人情報保護法などを、AIを巡る紛争にどう適用するかを示す裁判実務上の指針となる。

今回の指針で焦点となったのは、本人の同意の有無だ。特定の人物の顔を模した仮想画像を無断で作成したり、声を学習させて識別可能な合成音声を生成したりした場合、肖像権や人格権の侵害責任を問われる可能性がある。ディープフェイクによって虚偽の発言を作り出し、社会的評価を低下させた場合は、名誉権侵害にも当たり得るとした。

また、重大な被害が生じ、回復が困難な場合には、裁判所に対して侵害行為の差止めを申し立てることができるとした。虚偽の性的コンテンツに本人の顔を合成して拡散するケースを代表例として挙げている。

AIサービス事業者の責任基準も盛り込んだ。AIが虚偽または不正確な情報を生成して他者の人格権を侵害し、権利者から通知を受けた事業者が生成停止など必要な措置を講じなかった場合、損害賠償責任を負う可能性があるとした。利用者が悪意あるプロンプトによって侵害コンテンツを作成した場合は、利用者側も責任を負うとしている。

アルゴリズムを用いた価格差別についても規制対象とした。同一の商品やサービスに対し、合理的な理由なく消費者ごとに異なる取引条件を適用し、不利益を与えた場合には、事業者責任を認める余地があると示した。

中国当局によるAIコンテンツへの取り締まりも強まっている。国家インターネット情報公室は2日、AIによる虚偽情報やなりすましへの取り締まりの結果として、違法・有害情報を561万件以上処理し、約4万9000件のアカウント、約2400件の違法サイト・アプリに対して措置を講じたと公表した。