放送メディア通信審議委員会は24日、実在人物の写真を使って性的ディープフェイクやわいせつコンテンツを生成できる海外サイト64件について、接続遮断を求める是正要求を議決したと発表した。
同委は同日、通信審議小委員会を開き、AIを使ってわいせつ画像や動画、ディープフェイクを生成する海外サイト64件を審議し、接続遮断を決めた。
対象となったサイトでは、実在人物の顔写真や全身写真をアップロードすると、性行為などを描写した画像や動画を生成できたという。利用者が入力したテキストをもとに、架空のわいせつコンテンツを作成する機能を備えたサービスも確認された。
多くのサイトは韓国語に対応しており、少額課金でディープフェイクやわいせつコンテンツを生成できる仕組みだった。同委は、こうしたサービスは誰もが容易に加害者にも被害者にもなり得る点で、危険性が高いと説明した。
現行の「性暴力犯罪の処罰等に関する特例法」では、性的虚偽映像物を制作した場合、7年以下の懲役または5000万ウォン以下の罰金が科される可能性がある。また、情報通信網法では、わいせつ物の流布は1年以下の懲役または1000万ウォン以下の罰金の対象となる。
同委によると、一部サイトは利用規約で、第三者の同意のない性的画像の生成を禁じるとしていた。しかし実際には、他人の写真を使ったわいせつコンテンツの作成がほとんど制限なく可能だったという。
同委関係者は「性的虚偽映像物は、一度制作・流布されると被害の回復が難しい」としたうえで、「AIを悪用したこうした情報を流通させる国内外サイトを継続的にモニタリングし、厳正に対応していく」と述べた。
著者について
Seulgi Son
sageson@d-today.co.kr