Anthropicは、生成AIモデル「Claude」が出力した文章に、人の目では判別しにくいウォーターマークを埋め込む機能を導入した。AI生成文を人間が書いた文章として提出したり出版したりするケースを見分けやすくする狙いで、出版や教育分野での検証手段の拡充につながる可能性がある。

米Business Insiderによると、Anthropicは8月11日、同日提供を始めたClaudeの新モデルから、生成テキストに目視では識別しにくいウォーターマークを挿入すると明らかにした。

このウォーターマークは、文章の意味や読みやすさを損なわず、ユーザーがテキストをコピーして別の場所に貼り付けても維持されるよう設計したという。Anthropicは、一部を編集した後でも残る可能性があると説明している。

対象は、8月2日以降にリリースしたClaudeの各モデル。これらのモデルは提供開始時からテキストのウォーターマーキング機能を備えており、Anthropicは旧モデルへの展開も進めているとしている。

Claudeを直接利用する場合に加え、クラウド事業者経由でClaudeのモデルを使う場合にもウォーターマークを適用する。今後は、外部機関がAI生成文かどうかを確認できるよう、第三者向けの検知ツールも提供する計画だ。

今回の取り組みは、EUのAI法を背景とした透明性強化の流れにも沿う。AIが生成したコンテンツの出所を確認しやすくし、利用者やコンテンツの受け手がAI利用の有無を判断しやすくする狙いがある。

出版社や学校、大学にとっては、AI生成テキストを見極める新たな手段になり得る。近年は小説などの出版物でAI利用を巡る論争が相次いでおり、制作過程でAIが使われたかどうかをどう確認するかが大きな論点になっている。

先月は、犯罪小説『Call Me, I'll Hide the Body』を巡り、著者がAIを使った可能性があると指摘され、代理人が支援を撤回した。14社の出版社が版権入札に参加し、契約締結後に議論が広がったが、著者のジェリ・パラデはAIで執筆していないと否定した。

今年初めには、ホラー小説『Shy Girl』もAI生成文を巡る騒動に見舞われた。作家のミア・ボラドはAIを使っておらず、フリーランスの編集者が同意なくAI生成の文言を挿入したと主張した。

こうした事例が続く中、テキストのウォーターマーキングは、出版社が原稿へのAI利用の有無を確認する際の新たな手掛かりになり得る。教育現場でも、学生の課題にAIが使われたかを検証する用途が見込まれる。

もっとも、ウォーターマークはAI生成かどうかを完全に判定する手段ではない。Anthropicも、大幅な修正や書き換え、翻訳、別のテキストとの混在がある場合には検知できないことがあると認めている。

また、ウォーターマークが検出されたとしても、文章全体をClaudeが書いたことを意味するわけではない。人が書いた文章を校正したり翻訳したりする過程でClaudeを使った場合でも、ウォーターマークが残る可能性があるためだ。

テキストのウォーターマーキングを導入した大手AI企業としては、Anthropicは2社目となる。Google DeepMindは2024年、GeminiのアプリとWebで生成されたテキストと動画に「SynthID」ベースのウォーターマーキングを適用すると発表しており、画像向け技術は2023年から提供していた。

Anthropicの今回の対応は、AI生成テキストの出所をたどるための最低限の技術基盤を整えた点に意義がある。ウォーターマークだけでAI利用を断定するのは難しいものの、出版社や教育機関が既存の検知手法と組み合わせて使える手段が増えることで、AI文章の透明性や著作物の検証を巡る議論はさらに広がりそうだ。