Mistral AIは、AIモデルの入力と出力を分類する軽量マルチモーダル安全性モデル「Shieldstral」を公開した。SiliconANGLEが5日（現地時間）、報じた。
Shieldstralはオープンウエイトのモデル。開発者が実行時に自然言語でポリシーを指定すると、安全スコアと「はい／いいえ」の判定を返す。
同モデルは、追加学習なしでテキストと画像を同時に処理できる。開発者はまず、安全性評価の目的や基準を盛り込んだポリシーを入力し、その後にユーザーの入力と検査対象のコンテンツを与える仕組みだ。
Mistral AIによると、Shieldstralはポリシーの文言を単純に記憶するのではなく、類似していても異なる基準を見分けられるよう学習している。例えば、「マルウェアに関連する内容か」と「サイバーセキュリティに関する議論か」を区別し、一方の基準だけに抵触するケースも判別できるという。
性能面でも、同社は軽量モデルとして高い水準にあると説明している。各種安全性ベンチマークでは、テキスト安全スコアの平均が84.9%となり、7倍超の規模を持つモデルと同等か、それを上回る結果を示した。画像を対象としたマルチモーダル安全性ベンチマークの平均は83.8%で、比較対象の各モデルを上回った。
著者について
Hwang Chi-gyu
delight@d-today.co.kr