Anthropicが、対話型AI「Claude」の生成テキストに人の目では判別しにくいウォーターマークを導入した。EUのAI法への対応が目的だが、校正や要約といった軽微な利用でも痕跡が残る可能性があり、著作権やプライバシーへの影響を巡って議論が広がっている。

Business Insiderなどが13日に報じたところによると、Anthropicは今週、一部のClaudeモデルの出力テキストに不可視のウォーターマークを埋め込むと明らかにした。テキストをコピー・アンド・ペーストしても維持され、一定の修正を加えた後でも残る場合があるという。Anthropicは、人が書いた文章とAI生成文を見分けるための措置だと説明しているが、技術的な仕組みの詳細は公表していない。

この対応を巡っては、判定主体の透明性を疑問視する声も出ている。技術投資家のビル・ガーリー氏は、Anthropicだけが識別できる仕組みであれば、同社が「裁判官であり、陪審員であり、検察官でもある」立場になると指摘した。これに対しAnthropicは、利用者や第三者が確認できるよう、無料のAPIを提供する計画を明らかにした。

生成品質への影響を懸念する見方もある。特定の単語や表現の選択パターンでAI生成を示す仕組みであれば、文章が不自然になる可能性があるためだ。Anthropicは、ウォーターマークによってClaudeの応答の意味や品質、可読性が損なわれることはないとしている。

一方で、適用範囲を巡る懸念は根強い。人が書いた文章をClaudeで文法修正するなど、軽く手を入れただけでも、Claudeによる処理の痕跡が残る可能性があるためだ。Anthropicは、検出される信号はあくまでClaudeがそのテキストを処理したことを示すものであり、最初からClaudeが執筆したことを意味するわけではないと説明する。校正、翻訳、要約を経たテキストでも、信号が残る場合があるという。

Anthropic自身もこの点は認めている。同社は「人々はしばしばClaudeを校正、翻訳、要約、ファイル変換に使う」とした上で、「元のアイデアやテキスト、データが別の場所に由来していても、結果物にはClaudeの表示が残り得る」と説明した。

EUのAI法は、こうした軽微な編集作業をウォーターマーク義務の対象から明示的に除外している。それにもかかわらず、Claudeでは原文を整える程度の処理でも痕跡が残る可能性がある。大規模な生成と句読点の修正のような限定的な編集を区別できなければ、法規制の対象外とされるコンテンツまでAI由来と受け取られかねないとの指摘が出ている。

プライバシー面の懸念もある。Microsoftのスティーブン・シノフスキー氏は、論点の核心はデータ保持と、デジタルの痕跡を残さず私的に思考する権利にあると指摘した。ソフトウェアエンジニア教育者のジョン・クリケット氏は、AIが生成したコードにウォーターマークが付けば、著作権を主張する過程で人間の貢献を十分に立証しにくくなる可能性があるとみている。

Anthropicは今回の措置について、EU AI法の遵守が目的だとしている。同法はAIシステムの提供者に対し、AIが生成または加工した音声、画像、テキスト、動画にウォーターマークを付与するよう求めており、8月2日以降にリリースされたモデルが対象となる。これ以前のモデルには、2026年12月までの猶予期間が設けられている。

Anthropicは、EU域内にとどまらず、世界で提供する新モデルにも当初からこの措置を適用するとした。テキスト生成物には利用者が知覚できないウォーターマークを埋め込み、それ以外の形式の生成ファイルについては、対応可能な場合にデジタル署名を含む出所メタデータを組み込む。テキスト以外のコンテンツには、C2PA方式のメタデータ標準を適用するという。ただ、プラットフォームや機能によってはウォーターマークをサポートしない場合もあるとしている。

対象モデルには8月2日から世界的にウォーターマークが適用されている。Googleは生成コンテンツに独自技術の「SynthID」を導入しており、OpenAIも対応する画像と音声でSynthIDを採用しているとされる。X（旧Twitter）も、AIが生成または加工したと判断したコンテンツに「Made with AI」と表示している。実際、13日には退任を控えたホワイトハウス報道官カロライン・レビット氏の辞任発表に関する投稿に同表示が付いた後、消えた事例もあった。

ウォーターマークを前向きに評価する見方もある。AIが自ら生成したコンテンツを再学習し、性能が劣化する問題の抑制に役立つ可能性があるためだ。

もっとも、実効性には疑問も残る。テキストのウォーターマークは、モデルが特定の単語を選ぶ傾向を文書全体でわずかに偏らせることで機能し、専用ツールでのみ確認できる。この過程で、モデルが信号を維持するために、最適とは言い切れない表現を選ぶ可能性もある。

また、ウォーターマーク付きのテキストでも、別のチャットボットに貼り付けて修正すれば信号が消える可能性がある。画像や動画も、スクリーンショットや録画、一般的なメタデータ編集ツールで表示を除去できるとされる。Anthropicが判別方式を公開すれば、逆にそれを外す仕組みを作るのは難しくないとの見方もある。

さらに、ウォーターマークが示す情報そのものも限定的だ。Anthropicは「検出された信号は、コンテンツがClaudeで処理されたことを示す信号にすぎず、決定的な証拠ではない」と説明している。

つまり、検出結果が示すのは、そのコンテンツがClaudeで処理された可能性があるという程度にとどまる。Claudeが全面的に生成していないコンテンツにも信号が残る場合がある一方、信号が検出されないからといって、AIによる生成や処理がなかったことを意味するわけでもない。

一般の読者が「Claudeで処理されたテキスト」と「全面的にAIが生成したテキスト」の違いを見分けられない場合、人が書いた文章を軽く編集しただけでも、完全なAI生成物と同様に受け取られる懸念がある。

EU AI法の別条項である第50条4項は、コンテンツ公開時に一般向けの明示的なラベル表示が必要となる場合を定めている。同条項によれば、全面的にAIが書いたテキストであっても、多くのケースでは別途ラベルは不要で、AIが執筆した小説やマーケティング文句にも表示義務はない。

一方で、「公益に関する事案を大衆に知らせる」ことを目的とするコンテンツは、責任ある編集者が内容を確認していない場合にラベル表示が必要とされる。結果として、モデル段階では事実上あらゆる処理コンテンツにウォーターマークが残り得る一方、公開段階では編集者の確認を理由に、AIが書いたテキストでもラベルが付かない可能性がある。

EU側は、こうした透明性要件について、「情報生態系への信頼を損ない、大規模な偽情報や操作、詐欺、なりすまし、消費者欺瞞の新たなリスクを高める事態」を防ぐための措置だと説明している。欧州委員会のガイドラインも、「人々はAIと相互作用しているのか、AI生成コンテンツに接しているのかを知る必要がある」とした上で、「それによって十分な情報に基づく判断を下し、AIへの信頼と依存の度合いを調整し、偽情報や欺瞞を避けられる」としている。

ただ、公益性のあるAI生成記事であっても、編集者が確認すれば読者向けラベルが付かない可能性がある点については、制度の趣旨と実際の運用にずれがあるとの指摘もある。

Anthropicは今後も、EUの要求水準に合わせてウォーターマークと検出技術の開発を継続する方針だ。機能が適切に果たされない場合、AI法に基づき最大1500万ユーロ、または世界全体の年間売上高の3％のいずれか高い額の制裁金が科される可能性がある。