韓国インターネット自律政策機構（KISO）は9月2日、改正情報通信網法の施行後初めて、虚偽・操作情報に関する自律規制の審査基準と審議状況を公表した。オンライン投稿に事実と異なる内容やAI生成画像が含まれていても、それだけで直ちに虚偽・操作情報として削除対象になるわけではなく、投稿の意図や権利・公益侵害の有無まで含めて判断するという。

KISOの虚偽・操作情報審議特別委員会は同日、ソウル・光化門で記者懇談会を開き、制度運用の現況と判断枠組みを説明した。

懇談会には、キム・ミンホ委員長（成均館大学法科大学院教授）のほか、キム・ヒョンギョン委員（ソウル科学技術大学IT政策専門大学院教授）、ファン・ヨンソク委員（建国大学メディアコミュニケーション学科教授）らが出席した。

委員会は、KISO加盟各社が自社のみでは判断が難しいとして審議を求めた通報27件を検討した。このうち、審議途中で投稿が削除された案件や、名誉毀損などの権利侵害申告に基づき暫定措置が取られた4件を除く23件について、最終審議を終えた。

審議の結果、23件すべてが「KISO虚偽・操作情報自律政策ガイドライン」に照らして非該当と判断された。削除や表示制限などの措置が決まった案件はなかった。

キム委員長は、加盟各社で虚偽・操作情報の判断基準がばらつけば、利用者や社会に混乱を招きかねないと説明した。そのうえで、統一的な基準の適用に向け、法務、メディア、報道、技術分野の専門家で特別委員会を構成したと述べた。

◆「情報・レビュー・宣伝型」が約7割

委員会は当初、政治的に敏感な投稿が主な審議対象になると見込んでいた。実際には、旅行会社や宿泊施設の情報、飲食店のレシートレビュー、美容施術の体験談、商品の割引情報など、「情報・レビュー・宣伝型」の投稿が19件と全体の約70％を占めた。これに加え、紛争や誹謗中傷、興味・娯楽型の投稿、学術・宗教分野の主張や意見も一部含まれていた。

キム委員長は「政治的に敏感な事案が大半を占めると想定していたが、実際には商品やサービスの推薦・宣伝、レビュー投稿が7割を超えた」と話した。

◆虚偽性から目的・侵害まで3段階で審査

委員会がまず確認するのは、投稿が虚偽または加工・操作された情報に当たるかどうかだ。ただ、一部の表現が不正確だったり、情報が古かったりするだけで虚偽情報とは判断しない。投稿の主たるメッセージと全体の文脈、一般利用者の事実認識に与える影響をあわせて見る。

たとえば、背景や付随情報に誤りがあっても、利用者の判断に実質的な影響がなければ虚偽情報とはみなさない。主観的な評価や意見、学術・科学・宗教を巡る論争のように、客観的真実が確定していない事案も、虚偽性判断の対象から外す。

一部には、虚偽または加工・操作された情報には当たると判断された事例もあった。ただし、最終的には虚偽・操作情報には分類されなかった。

キム委員長は例として、宿泊施設を紹介しながら当該施設とは無関係な海外の高級ホテルのロビー写真を掲載したケースや、特定物質を万能薬のように紹介しつつ無関係な治療事例を示したケースを挙げた。AIで生成され、韓国語の看板表示などが崩れて見える合成画像も、操作情報と判断した事例に含まれた。

もっとも、こうした投稿についても、他者に被害を与える意図や不当な利益を得る目的、他者の権利または公益の侵害まで確認できず、最終的には非該当と結論付けた。

キム・ヒョンギョン委員は「内容が虚偽または操作されているというだけで、流通制限の対象となる虚偽・操作情報に当たるわけではない」と説明。「他者に被害を与える意図、または不当な利益を得る目的があること、情報に虚偽性・操作性があること、他者の人格権・財産権または公益を侵害することという3要件を満たす必要がある」と述べた。

投稿者の意図や目的は直接確認しにくいため、委員会は客観的な事情から判断する。投稿者と被害者の関係、同一情報の反復投稿の有無、出所を示す表示を故意に削除・改ざんしたかどうか、マクロや自動化技術を使って組織的に拡散したかどうかなどを確認する。

不当利益は、広告収益などの経済的利益に限らない。影響力の拡大やフォロワー増加といった社会的・政治的利益も含まれ得る。一方で、解釈が広がり過ぎないよう、個別的で直接的かつ具体的な利益があるかどうかを見極めるとしている。

◆AI合成物やパロディ、文脈と創作性を総合判断

AI生成物については、合成・変形された事実そのものより、利用者がそれを客観的事実として誤認するおそれがあるかが判断基準になる。AI生成物であることを明示している場合や、主たる内容と無関係な部分だけを変形した場合は、操作情報に当たらない可能性がある。

風刺やパロディについても、形式だけで虚偽・操作情報に当たるかどうかを決めるわけではない。ファン・ヨンソク委員は、AI生成物である旨の表示があっても、創作性があるか、欺罔的な手法で特定の権利や利益を侵害したかなどを総合的に判断すべきだと述べた。

ファン委員は「プラットフォームに、社会で流通する情報の真偽を判断し選別する役割まで担わせれば、プラットフォームの権力化につながりかねない」と指摘したうえで、「一部の誤りだけを理由に投稿が恣意的に削除されるのを防ぐため、虚偽・操作情報の概念は最小限に適用した」と説明した。

公益侵害についても、委員会は限定的に判断する。防疫体制や投票の自由など、法が保護する価値が脅かされるかどうかに加え、取り付け騒ぎや資産価格の急変、災害救助や防疫の妨害など、オフラインで回復が難しい被害が生じるおそれがあるかを確認する。

名誉毀損やプライバシー侵害など個人の権利に関わる投稿は、虚偽・操作情報の審議とは切り分け、従来の暫定措置制度を適用する。今回の審議でも、権利侵害の申告によって暫定措置が取られた一部投稿は、虚偽・操作情報としての実体判断には至らなかった。

KISOの決定は法的拘束力を持つものではなく、加盟各社間の協約に基づいて執行される。特別委員会が虚偽・操作情報への該当性を判断した後、削除、表示制限、収益制限などの具体的措置は各加盟社が決める。

キム委員長は「オンライン上のあらゆる不正確な情報や権利侵害事案を虚偽・操作情報に含めるのではなく、ガイドラインの要件を満たす情報に限って必要な措置を講じるのが自律規制の原則だ」と述べた。そのうえで「審議事例と結果を公開し、自律規制の予見可能性と信頼性を高めていく」と話した。