韓国国会で、生成AIキャラクターチャットを含む対話型サービスに対し、児童・青少年保護の義務を課す法整備が動き出した。改正案には、年齢確認や本人確認、法定代理人の同意確認、利用時間の制限、危険時の通報と対応などを事業者に義務付ける内容が盛り込まれている。

国会の科学技術情報放送通信委員会は8日の全体会議で、チョ・インチョル議員（共に民主党）が代表発議した「情報通信網利用促進および情報保護等に関する法律」改正案を法案審査小委員会に付託した。放送通信分野の所管当局も法案の趣旨に賛同しており、AIキャラクターチャットを含む青少年のAI利用者保護に向けた法制化論議が本格化する見通しだ。

改正案は、既存の対話型情報通信サービスに加え、生成AIベースのサービスも法の適用対象に加えるものだ。あわせて、児童・青少年の利用者を保護するための具体的措置を、事業者の法的義務として明記した。

現行法では、14歳未満の児童に対話型サービスを提供する場合、事業者に対し、不適切な情報が提供されないよう努めることを求めている。

これに対し改正案では、保護対象を児童・青少年全体に広げる。事業者は利用者の年齢確認と本人確認を行い、利用者が児童・青少年である場合は、法定代理人の同意を確認しなければならない。

また、児童・青少年本人または法定代理人から要請があった場合、事業者はサービスの利用方法や利用時間を制限する必要がある。利用者の求めに応じて、当該利用者との対話の日時や内容などを提供することも義務付ける。

さらに、児童・青少年が自殺・自傷、麻薬類の誤用・乱用、性的搾取・虐待などの危険にさらされている、あるいはそのおそれがある場合に通報できる仕組みを整える。通報を受けた事業者は、危険の除去など必要な対応を講じなければならない。

法案の背景には、AIチャットボットが単なる情報提供ツールを超え、青少年にとって友人や恋人、相談相手のような役割を果たすケースが増え、既存の保護規定だけでは対応が難しくなっているとの問題意識がある。

チョ議員は提案理由で、児童・青少年がAIチャットボットと情緒的な従属関係を形成したり、AIが自殺や自傷を勧めたり、不適切な性的会話へ誘導したりする事例が発生していると指摘した。現行法の理念的な規定だけでは、自殺・自傷の助長、薬物の誤用・乱用、性的搾取、過度な依存といった危険に十分対応しにくいとの判断を示している。

同議員は「生成AIは児童・青少年の日常的な対話相手であり、相談の窓口としても定着しているが、現行制度だけでは危険な会話や有害情報から十分に保護するのは難しい」と説明。「サービス設計の段階から、児童・青少年の発達段階と安全を優先する実効性ある保護措置が必要だ」と強調した。

チョ議員側は、今国会での法案成立を積極的に目指す方針だ。関係者は「青少年のAI利用者保護の必要性については、与野党で共通認識が形成されている」としたうえで、「与野党の幹部らとも法案の趣旨を共有しており、小委員会で積極的に議論を進め、立法につなげたい」と述べた。

放送通信分野の所管当局も、法案の趣旨と具体的な保護措置の必要性に同調している。

同当局の関係者は「法案提出後に国会へ示した政府意見書でも、立法趣旨に強く共感する立場を表明した」と説明。「法案で新たに課される義務についても、実効性があり必要な措置だと判断している」と述べた。

さらに同関係者は「法案自体がAIキャラクターチャットサービスを念頭に置いたものであり、対人関係型チャットボットや対話型チャットボットも適用対象に含まれる」と付け加えた。

法案が成立すれば、ZetaやCrackなど韓国内のAIキャラクターチャットサービスも直接の適用対象となる見通しだ。Mobile Indexによると、先月の月間アクティブユーザー数（MAU）ベースで韓国内上位2サービスだったZetaとCrackでは、利用者に占める10代以下の比率がそれぞれ58.3％、47.8％だった。

関連事業者はすでに、成人向けコンテンツに対する本人認証や青少年保護ポリシーなど、独自の保護措置を運用している。ただ、改正案が成立すれば、これまで事業者の自主対応に委ねられていた年齢確認・本人確認、法定代理人の同意確認、利用時間の制限、危険時の通報と対応は、法的義務へと切り替わる。

改正案は、公布から6カ月後に施行される。