韓国政府が、AIチャットサービスを巡る青少年保護策の強化に動き出した。有害情報の生成・流通や青少年の過度な利用が相次いで問題視される中、11月から審査を本格化するほか、利用者保護に向けた新法の制定準備や、情報通信網法、AI基本法の制度整備を並行して進める。

27日、関係当局によると、放送メディア通信委員会は、仮称「AIサービス利用者保護法」の制定を準備している。AIサービスの利用で生じる被害の予防と、利用者の権利救済の枠組み整備が狙いだ。

昨年12月の政府業務報告で示された法案草案には、AI事業者に対する違法情報の生成・流通防止義務のほか、19歳未満の青少年に対する有害情報の生成防止や過度利用の誘導防止措置、関係性AIサービスに関する特別規定、利用者の権利保障や紛争調整制度の導入などが盛り込まれた。

放送メディア通信委員会は5月、「AIサービス利用者保護 官民協議会」の第2期を発足させ、制度改善策の議論を進めている。8月には、AIサービスにおける違法・有害情報への対応として、技術的な安全措置や事業者の自主規制案などを協議した。

同委関係者は「AIサービス利用者保護法の制定案は、昨年公開した草案から大きな方向性を変えずに準備している」と説明した。官民協議会で議論した児童・青少年保護に向けたAI事業者の措置案や、産業界、学界、法曹界など幅広い利害関係者の意見を、可能な範囲で反映する方針という。立法日程については、議員立法を含む推進方式やその時々の状況によって流動的だとしている。

一方、放送メディア通信審議委員会は11月、AIチャットサービスの本格審査に着手する。審査では、現行の青少年保護法や情報通信網法、「情報通信に関する審議規定」など既存の法令・規定を適用する。

これに先立ち、放送メディア通信審議委員会は21日、国内外のAIチャットサービス事業者15社と協力会議を開き、扇情的なキャラクター情報や性的な対話の生成事例などを共有した。事業者に対しては、AIの入力・出力段階で違法・有害情報を遮断する機能の強化や、青少年による成人向けコンテンツへのアクセス制限などを要請した。

放送メディア通信審議委員会は、AIチャットサービスで提供されるキャラクター情報のほか、画像やテキストなどのAI生成情報も審査対象になり得るとの見解を示している。審査の結果、AIチャットサービスが青少年有害媒体物に指定された場合、事業者には有害表示、年齢確認および本人確認、青少年のアクセス制限といった法令上の義務が生じる。

わいせつ情報や児童・青少年の性的搾取物などの違法情報が確認された場合には、青少年有害媒体物の指定とは別に、削除などの是正を求めることも可能だという。

同委関係者は「AIチャットサービスで提供されるキャラクター情報やAI生成情報の扇情性、サービスの運営構造などを総合的に検討し、審査を進める予定だ」と述べた。そのうえで、「委員会による内容審査とは別に、青少年の過度利用や依存の問題については、別途の政策支援と関連法・制度の整備が必要になる」との認識を示した。

◆AI基本法の見直しも支援　国会では保護義務強化法案

科学技術情報通信部は、AI基本法の所管官庁として、法改正に向けた制度改善作業を支援している。

同部は3月、産業界、学界、市民社会の専門家が参加する「AI基本法 制度改善研究班」を発足させ、議論を続けている。年末の公聴会で、具体的な改正の方向性を公表する予定だ。

同部関係者は「AI基本法を巡って提起されたほぼすべての論点を議論してきたが、青少年保護の問題が具体的に扱われたかどうかは、現時点では確認が難しい」と説明した。さらに「市民社会だけでなく、学界や産業界など複数の利害関係者が改正案を議論しており、最終的に何が反映されるかはまだ見通せない」と述べた。

国会でも、AI事業者の青少年保護義務を強化する法案の審議が進んでいる。情報通信網法改正案では、イ・ジュヒ議員が3月に発議した、AIサービスによる青少年有害情報の生成・提供の禁止や関係性AIの保護措置強化を盛り込んだ案のほか、チョ・インチョル議員による年齢確認や保護者同意の義務化案がある。

イ・ジュヒ議員は今月、AIチャットボットの利用時間の案内と、利用制限機能の義務化を盛り込んだ改正案も追加で発議した。

AI基本法改正案では、チョン・チュンセン議員が1月に発議した、青少年向けAIサービスに自殺・自傷の予防や有害コンテンツ遮断などの技術的保護措置を義務付ける案や、チョ・インチョル議員が6月に発議した、児童・青少年をAI脆弱層に含めて国家レベルの保護対策を強化する案などがある。2法案は国会の科学技術情報放送通信委員会で審査中だ。

もっとも、AI基本法と情報通信網法の改正に加え、別途の利用者保護法の制定も同時に進む中で、規制範囲をどう切り分けるかに加え、児童・青少年の権益をどう保護するかについて、さらに議論が必要だとの指摘も出ている。

チェ・ギョンジン加川大学校法学科教授は「青少年保護のため、無条件に利用を制限するのが望ましいのか、それとも自由な選択権の保障がより望ましいのか、まずは児童・青少年にとっての最善の利益を考える必要がある」と話した。そのうえで「有害情報の遮断は既存の法体系でも扱ってきた問題だ。AIはそれをより速く生成・拡散できるという特性があるだけに、それを踏まえた制度整備が必要だ」と指摘した。