Anthropicは、AIチャットボット「Claude」が生成する文章に埋め込む不可視ウォーターマークの仕組みを公表した。Google DeepMindの「SynthID-Text」をベースにした方式で、EU AI法の透明性義務に関する行動規範への署名を受け、世界のモデルと製品に順次導入する方針だ。

8月14日（現地時間）に公表した説明によると、この仕組みは単語選択に使う乱数の生成に秘密鍵と直前の文脈を用い、検出可能な統計的パターンを文章内に残す。テキスト自体に文字列や記号を追加するものではない。

Anthropicは、EU AI法の透明性義務に対応する取り組みの一環として、Claudeの生成テキストにウォーターマークを順次適用するとした。対象はEU域内にとどまらず、世界のモデルと製品全体に及ぶ。

同社は、地域ごとに適用範囲を確実に切り分ける手段が現時点ではないため、導入時は全世界で一律に適用すると説明した。今回の行動規範にはAnthropicを含む約190の組織が署名しており、主要なAI開発企業もそれぞれ独自のウォーターマーク実装を予定しているという。

■ テキスト追加なし、料金や速度への影響は限定的

大規模言語モデル（LLM）は、単語（トークン）単位で文章を生成する。Anthropicは例として、「きょうの天気は寒く」に続く語として「曇り」や「雲がかかった」など、どちらを選んでも意味が大きく変わらない候補が文中に繰り返し現れると説明した。

通常、こうした選択は乱数で決まるが、ウォーターマーク適用時には秘密鍵と直前の数語を基に乱数を生成し、鍵を持つ側だけが識別できるパターンを残す。

同社は、特定の語を不自然に優先したり、普段使わない語を選ばせたりする仕組みではないとしている。追加の文字や隠しテキストを埋め込む方式ではないため、ウォーターマーク用の追加トークンは不要で、料金や生成速度への影響も限定的だという。

また、ウォーターマークや鍵に、利用者や組織、会話を特定できる情報は含まれないとしている。

■ 全面的なリライトでウォーターマークは消える

検出は、Anthropicが近く提供する専用APIを通じて行う。秘密鍵を用いて単語列を検証し、Claudeが生成に関与した可能性を判定する仕組みだ。ただし、単語選択の自由度が低い文章では、ウォーターマークを埋め込める余地も小さい。

例えば、「アイザック・ニュートンの最も有名な著書は『プリンキピア…』」のように答えがほぼ一意に定まる事実記述や、「2+2=」のような数式には適用しない。プログラミングコードについても、別の語に置き換えると不具合につながる部分は対象外とし、任意に表現を選べるコメント部分のみに適用する。一方、すべての単語をClaudeが新たに選ぶ翻訳文にはウォーターマークが入るという。

もっとも、この方式には限界もある。Anthropicは、軽微な編集ではウォーターマークは完全には消えないものの、すべての単語を置き換えるような全面的な再作成を経ると消失すると説明した。その場合、それをなおAI生成と呼べるのかは議論の余地があるとも付け加えた。

ウォーターマークが示せるのは、Claudeが何らかの形で関与した可能性にとどまる。「Claudeが直接書いた」のか、「Claudeが大幅に編集した」のかまでは区別できない。人間が書いたことの証明や、他社AIモデルによる生成物との識別にも使えないという。

また、文章が短いほど判定精度は下がり、長い文章ほど確度は高まるとしている。

■ 画像はC2PA準拠のメタデータ方式

ClaudeがPNG、JPG、SVGなどの画像ファイルを生成する場合は、テキストとは別の方式を採用する。ファイルのメタデータに、Claudeが制作または処理したことを示す暗号署名付きの記録を追加するもので、コンテンツ来歴の標準規格「C2PA」に準拠する。

この方式は、カメラメーカーや写真編集ソフトが採用する規格と同じで、C2PA対応ツールで確認できる。Anthropicは独自の確認ツールも提供する予定だとしている。

EU AI法50条（透明性義務）の適用は2日に始まったが、それ以前に投入された既存モデルには法的な経過措置がある。このため、ウォーターマークの追加は今後数カ月かけて順次進めるとしている。