韓国で「AI基本法」が施行され、生成AIコンテンツへのウォーターマーク表示が義務化された。ただ、SNSでは表示の削除手順が早くも広がっており、制度の実効性を疑問視する声が出ている。背景には、コンテンツ流通段階で利用者やプラットフォームを直接規律する法的枠組みの不足がある。

業界関係者によると、YouTubeなどのSNSでは「SORAのウォーターマークを消す方法」「ナノバナナのダイヤモンド表示を消す方法」といった、生成AIコンテンツの表示削除を扱う動画や投稿が拡散している。

こうしたコンテンツでは、Windowsの「生成消去」やMacの「クリーンアップ」といったOS標準機能を使い、生成AIコンテンツ上の表示を消す手順が紹介されている。

Redditなどのオンラインコミュニティでは、MagicEraser、Bylo.ai、Somakeといった有料・無料のウォーターマーク除去ツールを勧める投稿も見られる。

ウォーターマークは、AI生成物と実在コンテンツを見分けるための基本的な手段だ。表示がなければ悪用リスクが高まるため、各国政府や主要AI事業者は生成AIの普及初期から対応を進めてきた。

ジョー・バイデン前米大統領は2023年10月、「安全で信頼できるAIの開発・利用に関する」大統領令を発令した。これを受け、米商務省はAI生成コンテンツの識別に向け、「コンテンツ出所および真正性確認（C2PA）」を技術標準として示す指針を策定した。

OpenAIやGoogleなど主要な生成AI事業者も、こうした指針に沿った対応を進めている。

欧州連合（EU）は2024年8月にAI法を施行した。ウォーターマーク表示義務を含む透明性規定は、2026年8月から適用される。

韓国でも2026年1月22日にAI基本法が施行され、AI生成物に可視または不可視のウォーターマークを付与することがAI事業者に義務付けられた。違反した場合、最大3000万ウォンの過料が科される可能性がある。

特にディープフェイクのように現実の映像や画像と判別しにくいコンテンツについては、人が明確に認識できる方式で表示しなければならない。

もっとも、流通段階の規律はなお不十分だ。AI事業者がウォーターマークを付けても、利用者が故意に削除・毀損したうえでプラットフォーム上に流通させた場合、利用者やプラットフォームを制裁する明確な法的根拠はない。

専門家は、規制の必要性には同意しつつも、制度設計は慎重であるべきだと指摘する。コリョ大学情報保護大学院のクォン・ホンヨン教授は「単にウォーターマークの挿入を義務付けるだけでなく、回避や削除行為に対しても法的実効性を確保する必要がある」と述べた。

そのうえで、「ただし、制裁の対象と範囲は慎重に設計しなければならない。現時点では技術と政策の両面で議論を重ねている段階であり、時間をかけて見極める必要がある」と説明した。

こうした空白を埋めるため、国会では補完立法の動きも出ている。2026年1月20日には、国会科学技術情報放送通信委員会に所属するチョ・インチョル共に民主党議員が、ディープフェイクなど違法映像の拡散防止を目的に、「情報通信網を通じて流通する人工知能生成物」に表示義務を課す「情報通信網利用促進および情報保護などに関する法律（情報通信網法）一部改正案」を発議した。

改正案の柱は、投稿者へのAI生成物表示義務の付与、プラットフォーム事業者への表示の維持・管理義務の付与、利用者による表示の任意削除・毀損の禁止、違反時の処罰根拠の整備の4点だ。

企業に課される「表示義務」と、利用者に課される「保全義務」を組み合わせることで、コンテンツ流通段階まで管理責任を広げる狙いがある。

法案は現在、所管の科学技術情報放送通信委員会で審査中。今後は委員会全体会議での議決を経て、法制司法委員会での体系・字句審査、本会議での議決へと進む。