AIエージェントが商品購入や決済を利用者に代わって実行するケースが広がるなか、権限委任に伴う利用者保護が新たな課題として浮上している。専門家からは、利用者が権限の範囲を設定・撤回できる仕組みや、決済など高リスク行動に対する事前承認、事故発生時の責任所在の明確化を事業者に求める声が相次いだ。

こうした議論は12日、ソウル市中区明洞のポストタワーで放送メディア通信委員会が開いた「2026人工知能サービス利用者保護カンファレンス」で示された。

情報通信政策研究院（KISDI）のチョ・ソンウン研究委員は、MetaのAIエージェント「Muse」の利用事例を紹介し、「中古キーボードの販売を任せたところ、AIが勝手に値下げし、自宅住所まで知らせた。利用者がAIの権限や行動を統制できないなら、事業者が保護措置を用意すべきだ」と述べた。

AIエージェントを巡っては、利用者の意図を外れた行動によって被害が生じるおそれがある一方、利用者側では付与した権限の範囲や実際の挙動を把握・制御しにくいことが問題視されている。

チョ研究委員は、AIが行使する権限と行動範囲を利用者が確認でき、必要に応じて権限の変更や実行の停止ができるよう、事業者が仕組みを整えるべきだと強調した。KISDIは、こうした内容を盛り込んだ「AIエージェント利用者保護ガイド」の草案を作成し、外部レビューを進めている。

高麗大学人工知能学科のイ・サングン教授は、AIエージェントが外部攻撃によって操作されたり、利用者の指示範囲を逸脱して行動したりするリスクを指摘した。対策として、付与した権限の検証や行動記録の保存に加え、問題発生時に実行結果を取り消せる設計が必要だと説明した。

特に、決済や外部メールの送信、機微情報へのアクセスといった高リスク行動については利用者の承認を必須とし、リスクの低い作業は自動化するなど、行動の内容に応じて統制レベルを分けるべきだと訴えた。

AIの誤作動や逸脱行動による被害を、利用者だけに負わせるべきではないとの指摘も出た。

国家人工知能戦略委員会のパク・テウン公共AX分科長は、「AIだと告知したから責任がない、利用者が確認を押したから責任がないという構造であってはならない。結果に責任を負わせるべきだ」と述べた。

そのうえで、利用者の明示的な指示を外れた取引が発生した場合には、AIエージェントの提供事業者と決済事業者が一次的な責任を負う枠組みが必要だと主張した。一定規模以上のAIサービスについては、設計段階からリスク評価と透明性確保を義務付け、政府が監督すべきだとも強調した。

パネル討論では、複数のAIエージェントや事業者が連携するサービスで、責任の所在を明確にすべきだとの意見も出た。

啓明大学コンピュータ工学科のコ・ビョンチョル教授は、複数のエージェントを別々の企業が開発していたとしても、最終的なサービス提供事業者が責任を負うべきだと述べた。利用者が事故原因を自ら究明しなくても、1カ所に被害を申告して救済を受けられるよう、単一窓口を設ける必要があると説明した。

韓国消費者連盟のチョン・ジヨン事務総長も、「AIエージェントの自律性が事業者の責任回避の手段になってはならない」と指摘した。そのうえで、各事業者の実際の統制力やリスク管理能力に応じて責任を配分すべきだと強調した。

形式的な安全基準を超え、実効性のある統制措置が必要だとの声も上がった。

建国大学メディアコミュニケーション学科のファン・ヨンソク教授は、危険な行動を技術的に遮断する仕組みを整備するとともに、利用者による承認撤回率やAIの行動記録といった客観指標を基に、安全措置の実効性を検証すべきだと提言した。

嘉泉大学法学科のチェ・ギョンジン教授は、プラットフォーム監督当局である放送メディア通信委員会の役割を強調した。AIエージェントが利用者の利益に反する商品を推奨したり、事業者間の不当取引に活用されたりしていないかを継続的に点検し、事故情報を収集して規制基準を整備すべきだと述べた。

また、既存の電気通信事業法や情報通信網法など、放送メディア通信委員会が持つ規制手段がAIエージェントの時代にも適切に機能するかについて、事例ごとに検討する必要があるとした。