Naverは16日、AIサービスの設計から運用までを対象とする安全管理の枠組み「ASF 2.0」に関する「AI安全性進捗報告書」を初公開した。AIサービスで想定されるリスクを110項目に分類する仕組みや、実サービスへの適用事例をまとめている。

報告書では、同社のAI安全管理フレームワークであるASF 2.0と、これに基づく運用体系「CHEC 2.0」を実サービスに適用するプロセスを示した。

ASF 2.0は、AIモデルの性能やリスク水準に加え、利用者保護やサービス保全も対象に含めたAI安全管理の枠組みだ。サービスの設計・開発から提供開始、運用に至る全工程で安全性を管理する点を重視している。

Naverはあわせて、法務、社会、産業分野の事例を踏まえ、AIサービスで生じ得るリスクを110項目に分類する「N-ARTI」を構築した。サービスごとの特性を反映しながら、全社共通の基準でAIリスクを特定・分類するための仕組みとして位置付ける。

この分類体系を活用することで、生成AIがあらかじめ定めた安全基準から外れる回答を出さないよう制御する「ガードレール」の構築も可能になるとしている。

AIの応答の安全性を評価するツール「N-ASET」も整備した。有害性と有用性の2つの観点から回答を評価するもので、有害な内容の有無に加え、利用者の質問に適切に答えているか、免責文や専門家への案内といった必要な安全要素を備えているかも確認する。

実サービスでの適用事例も公開した。Naverは、AIショッピングエージェントや天気サービスでAIを活用していることを利用者に明示している。6月に導入した「AIタブ」でもCHEC 2.0を適用し、設計段階から提供開始まで安全性を点検した。

今後は、韓国科学技術院（KAIST）、ソウル大学人工知能政策イニシアチブ（SAPI）、高麗大学人工知能安全研究センター、人工知能安全研究所（AISI）などの大学・専門機関との連携を拡大し、AIサービスのリスク把握や予防・緩和に向けた研究を継続する計画だ。

NaverのAI安全センター長、ウォン・ソンジェ氏は「AI技術が利用者の日常に急速に浸透するなか、AI安全性も理論的な議論にとどまらず、実際のサービス環境で具体的に取り組む段階に入っている」とコメントした。そのうえで、「AIの開発から利用までの全過程で人間中心の価値を最優先に据え、サービスで起こり得るリスクを予防・緩和できるよう、ASF 2.0の高度化と適用を継続していく」と述べた。