Genonは10月26日、企業向けAIセキュリティソリューション「GenGuard」の提供開始を発表した。自然言語によるポリシー設定に対応し、AIサービスへの入力内容や生成結果を判定・遮断できる。個人情報検知や観察モードも備え、企業での生成AI活用に伴う情報保護需要を取り込む狙いだ。

GenGuardは、AIサービスへの入力内容と生成された応答を、企業が定めたセキュリティポリシーに沿って判定し、必要に応じて遮断するソリューション。生成AIプラットフォーム「GenOS」のガードレール運用で得た知見を基に開発した。GenOSの導入有無にかかわらず利用できるとしている。

中核機能は、自然言語によるセキュリティポリシー設定だ。モデルを再学習させることなく、「個別銘柄の推奨を遮断する」といったポリシーを入力すれば、その基準に基づいてAIへのリクエストや応答を制御できる。有害コンテンツへの対応に加え、ジェイルブレイクの試行やプロンプト攻撃への対策も想定する。

個人情報保護機能も搭載した。住民番号や口座番号などの定型情報に加え、氏名や住所など定型化されていない個人情報も検知する。外部AIサービスに送信される個人情報は、遮断またはマスキングが可能。本番適用前に誤検知の有無を確認できる観察モードや、オンプレミス環境での運用にも対応する。

同社は提供開始に合わせ、独自開発の軽量ガードレールモデル「GenGuard 1.0 Light」と、韓国語のサービス・ポリシー評価データセット「KSPG-Bench」も公開した。同社によると、自社モデルは公開ガードレールモデル5種との比較評価で平均84.3点を記録し、最高点だったという。

今後は、情報保護や内部統制の重要性が高い金融・公共分野を中心に、GenGuardの導入拡大を進める方針だ。

ミョン・デウ副社長は「企業のAI活用が本格化するほど、セキュリティは単なるリスク管理手段を超え、AIサービスの信頼性と競争力を左右する中核要素になる」と述べた。その上で「企業環境に最適化したAIセキュリティ技術で市場をリードしていく」としている。