AI生成コンテンツの識別に使われる不可視ウォーターマークが、利用者追跡の手段として悪用される恐れがあるとの指摘が出ている。コンテンツに埋め込まれた識別信号が個人情報と結び付けば、本人が気付かないまま監視の手段になりかねないという。

Gigazineが8日付で報じたところによると、画像・動画制作ソフト企業ArtCraftの創業者、ブランダン・トーマス氏は最近公表した寄稿文で、利用者の同意なくコンテンツの追跡を可能にする隠れた標識は「スパイマーク（Spymark）」として区別すべきだと主張した。

代表例として挙げたのが、GoogleのSynthIDだ。AIが生成した画像、動画、音声、テキストに人が認識しにくいデジタル信号を埋め込み、AI生成物かどうかを識別する技術で、一般的なメタデータと異なり、画像の編集や圧縮を経ても痕跡が残るよう設計されているという。

トーマス氏は、Googleの研究論文で紹介された画像ウォーターマーク技術「SynthID-O」に注目した。512×512ピクセルの画像に136ビットの情報を格納でき、このうち64ビットは識別子に、残る72ビットは誤り訂正に充てられると説明している。

この識別子を別のデータベース上の氏名、IPアドレス、生年月日、政治的所属などと結び付ければ、コンテンツ制作者や流通経路の追跡に悪用される恐れがあるという。

もっとも、こうした懸念はあくまで技術的可能性を前提としたものだ。Googleが実際に個人識別子を埋め込んだり、利用者を追跡したりしていることを示す証拠は示されていない。GoogleはSynthIDについて、AI生成コンテンツの出所を確認するための技術だと説明している。

トーマス氏は、一般的なメタデータとの違いにも言及した。画像のEXIFや音声ファイルのID3情報は確認、修正、削除が可能だが、コンテンツ自体に埋め込まれた不可視の標識は、利用者がその存在を認識したり除去したりするのが難しいとしている。

さらに、こうした技術がSNSやスマートフォン、コンテンツ制作ツールに広がれば、投稿の拡散経路を追跡できる可能性が高まると懸念を示した。特に、内部告発者や匿名で意見を表明する人の身元が特定されるリスクがあると警告している。

AI生成物の真偽判定技術の普及が進む中、コンテンツの透明性と利用者のプライバシー保護をどう両立させるかが、新たな課題として浮上している。