政府が「国家AI安全生態系造成マスタープラン」の策定を進める中、AIによる被害を受けた当事者の権利や救済手順をより明確にすべきだとの指摘が出ている。技術面の安全対策にとどまらず、国民が実際に利用できる救済の仕組みを整える必要があるという問題提起だ。

科学技術情報通信部は6日、ソウル中区の銀行会館で「国家AI安全生態系造成マスタープラン意見聴取会」を開いた。安全なAI利用に向けた方向性について、学界、産業界、市民社会の意見を幅広く聞くために実施した。

政府は現在、学界や産業界と連携しながら同マスタープランの策定を進めている。素案には、AI安全エージェントの開発、関係機関が連携したAIリスク対応・予防情報の提供、AI安全ポータルの構築など、安全なAI活用環境に向けた体制整備策を盛り込んだ。

発表したキム・ミョンジュAI安全研究所長は、AI安全評価や法制度・標準の整備を進めるほか、安全性評価に向けた研究所のテストベッドを企業や研究者に開放する方針を示した。大学と連携して少なくとも3カ所以上のAI安全融合センターを整備し、150人以上の学際融合人材を育成する計画も明らかにした。

意見交換では、制度の実効性や被害救済の仕組みに関する指摘が相次いだ。参与連帯のイ・ジウン上級幹事は「AI安全に関わるリスクが発生した際、当事者が実際にどう問題を解決し、どこで支援を受けられるのかという仕組みが必要だ」と強調した。

ポータル整備や人材育成といった大枠の計画にとどまらず、国民が容易にアクセスできるAI被害救済体制を構築すべきだという主張だ。AIエージェントなど自動化された判断システムの普及が進む中、リスク発生時の対応プロセスも具体化する必要があるとした。

イ・ジウン上級幹事は、1月に施行されたAI基本法にも言及した。「法律には『影響を受ける者』という概念は盛り込まれているが、どのような被害が生じ得るのか、どのような権利と救済手段が保障されるのかについては十分に示されていない」との認識を示した。

具体例として、公的機関におけるAI採用システムを挙げた。「不採用となった応募者は、なぜ落ちたのか、どの基準で評価されたのかについて十分な説明を受けにくく、異議申し立ての手続きも不明確だ」と述べ、よりきめ細かなセーフティネットの整備を求めた。

科学技術情報通信部は、今回の意見聴取会で出た意見をマスタープランに反映し、上半期中に具体案を公表する方針だ。