Naverは7月8日、AIの安全性評価の対象を従来のモデル中心から、利用者が実際に接するサービス全体へ広げた安全性枠組み「ASF 2.0」を公開した。

ASF 2.0は、Naverが2024年のAIソウル・サミットで公表したフレームワークを、足元のグローバル動向に合わせて高度化したものだ。同社は同日、ソウル市江南区で開かれた「人工知能安全ソウルフォーラム」に参加し、マルチモデル環境の拡大やAI基本法の制定といった政策・制度面の変化を踏まえた新たな安全管理の枠組みを説明した。

新たな枠組みでは、単一モデルの性能評価に偏りがちだった従来の基準を見直し、利用文脈や活用事例、影響範囲まで評価対象を拡大する。サービスの導入から運用に至るライフサイクル全体を管理対象とし、サービス上で想定されるリスクを類型化する「AIリスク分類体系」と、活用領域ごとの影響を診断する「AI影響評価マトリクス」を用いて、継続的な評価とフィードバックを進める。

発表したソン・デソプ氏（Naver AIセーフティ・ポリシー・リーダー）は、「AIを巡る技術やサービス、政策・制度環境の変化を受け、課題は単一モデルの安全性確保にとどまらず、多様なAIモデルを組み合わせ、数千万人が利用するサービスをいかに安全に設計・運用するかへと広がっている」と述べた。

同社はあわせて、ASF 2.0をサービス導入プロセス全体に一貫適用するための全社運用枠組み「CHEC 2.0」も整備した。6月に公開したNaverの「AIタブ」についても、この枠組みを通じて設計段階から導入段階までの安全性検証を終えたとしている。今後投入するAI関連サービスや、すでに提供中のサービスについても継続的に点検していく方針だ。

ソン氏は「Naverは2021年にNaver AI倫理準則、2024年にNaver ASFベータ版を公開し、政策環境の変化に合わせてAI安全性枠組みを具体化してきた」と説明した。その上で、「今後もノウハウを蓄積し、学界や政策分野、外部専門家、さまざまな機関との協業を通じて経験を共有し、枠組みの高度化を進めていく」と語った。