科学技術情報通信部は11月12日、生成AIの誤作動やリスク事例を市民が見つけて報告する常時監視の仕組みを始動した。寄せられた事例は検証を経て、AI安全性の評価やリスク研究の基礎資料として活用する。
同部は同日、人工知能安全研究所とともにソウル・汝矣島のグラッドホテルで、市民参加型モニタリング団「AI安全守り手」の発足式を開いた。
「AI安全守り手」は、生成AIの誤作動やリスク事例を参加者が直接見つけて通報する取り組み。8〜9月に2回実施した公開募集には138人が応募し、このうち80人を選抜した。
活動期間は来年8月までの約1年間。参加者は生成AIの安全性に関するモニタリングを担う。
点検対象は4分野。誤った情報や数値を事実のように示す「幻覚」、特定の集団に対する偏りや差別、安全装置の回避や個人情報の露出などに関わるセキュリティ脆弱性、応答しない、同じ回答を繰り返すといった技術的な不具合を調べる。
モニタリング団から寄せられた事例は、正確性、危険度、再現可能性、活用可能性などの観点から検証する。確認した事例はAI安全性の評価やリスク研究の基礎資料として用い、関連企業にも共有する方針だ。
同部と人工知能安全研究所は昨年12月にも、約30日間にわたり「情報誤りのない本物AIチャレンジ」を実施した。この際には625件の通報が寄せられ、うち464件を有効な誤作動事例として確認したという。
今回のモニタリング団は、こうした期間限定キャンペーンを常時点検の体制へと広げる狙いで設けた。
オム・ヨル科学技術情報通信部人工知能政策室長は「AIが幅広い世代に日常的に使われるようになった今、安全な利用環境は社会全体でつくっていく必要がある」と述べた。その上で「市民の目線で見つかった一つ一つの誤作動が、より安全なAIを実現する土台になる」と話した。
Jin-ho Lee
jhlee26@d-today.co.kr