韓国の放送通信審議委員会は21日、AIチャットサービスで扇情的なキャラクター設定や性的行為を描写する応答が生成・流通しているとして、事業者に青少年保護措置の強化を求めた。11月中にも個別サービスを対象に本格審議に着手する方針だ。
同委員会は同日、ソウル市木洞の放送会館で、AIチャットサービス事業者15社を対象に協力会議を開催した。会議では、扇情的コンテンツの流通実態と青少年保護策について協議した。
重点的にモニタリングした結果、一部サービスでは、キャラクター画像やプロフィール、設定内容などに身体の一部を過度に露出した表現や、性的行為を連想させる情報が含まれていた。利用者がキャラクターと対話する過程で、性的行為を描写する応答が生成される事例も確認されたという。
同委員会は、AIチャットの有害性は、事業者が採用するAIモデルや、キャラクター設定、対話設計の違いによって左右されると指摘した。
そのうえで、AIチャットの入力・出力段階で違法・有害情報を検知・遮断する機能の高度化と、利用者による通報体制の改善を求めた。あわせて、青少年が利用できるコンテンツと成人向けコンテンツを明確に区分し、成人向けコンテンツには青少年有害表示を適用するよう促した。
また、本人認証による青少年のアクセス制限措置についても、迂回アクセスによって形骸化しないよう、常時安全性を点検するよう要請した。
会議に出席した事業者は、青少年保護措置の必要性に理解を示す一方、スタートアップとしての運営上の課題も共有し、実効性のある保護策について意見を交わした。
同委員会は今後、事業者の意見を踏まえつつ、個別サービスごとの有害性の程度や青少年アクセス制限措置の運用状況を調査する。そのうえで、11月中にも本格審議を始める予定だ。
著者について
Seulgi Son (손슬기)
sageson@d-today.co.kr