Darktraceは22日（現地時間）、企業内で利用されるAIツールやAIエージェントを可視化・管理するセキュリティ製品「Secure AI」の正式提供を開始した。SiliconANGLEによると、セキュリティ部門の管理能力を上回るペースで広がる社内のAI利用を把握し、統制することを狙う。

同社は、従来の行動ベース検知をAI環境にも拡張した。顧客ごとの通常時の挙動を学習し、異常の兆候を検出する仕組みを採る。

Darktraceが約8200件の導入実績をもとに収集したテレメトリーデータでは、今年8月時点で監視対象顧客アカウントの80％超が生成AIサービスを利用していた。同月、1組織当たりが利用したAIサービス事業者数は平均5社だった。

初期導入の現場では、管理外のAI利用も確認された。ある組織では1つのAIアシスタントのみを承認していたものの、実際には大半の従業員が未承認のサービスを利用していた。別の組織では、ローコード開発環境で承認手続きなしに約90件のAIエージェントが作成されていたという。

Secure AIは、ChatGPT Enterprise、Claude、Microsoft Copilot、Amazon Bedrockのセッションをリアルタイムで監視する。ジェイルブレイクの試行や機微情報の漏えい、間接的なプロンプトインジェクションの兆候を検知し、各セッションをリスク評価することで、セキュリティ担当者が優先対応すべき対象を絞り込めるようにする。

シャドーAIの検知では、Microsoft Entra Global Secure Accessなどのセキュアアクセスサービスエッジ（SASE）と連携する。

これにより管理者は、未承認サービスの遮断や端末の隔離に対応できる。企業は自社のAIポリシーを自由記述で登録し、規制やコンプライアンスの枠組みと照らし合わせて確認することも可能だ。

またDarktraceは、AIエージェントを実際のユーザーにひも付けて追跡し、それぞれのアクセス範囲も記録する。Amazon BedrockやMicrosoft Copilot Studioなどの開発環境まで監視対象を広げ、エージェントの構築段階で過剰な権限や設定ミスを検出できるようにした。