Palantirの製品セキュリティチームは26日、Mediumのブログで、エージェント型AIをセキュリティ業務に導入して得た知見を公開した。コードレビューや脆弱性の探索、ペネトレーションテストといった実務で運用を重ねた結果、重要なのはモデルそのものより、周辺の運用基盤や組織固有の文脈、修正を迅速に反映する仕組みだと指摘している。

同チームはこの1年、さまざまなセキュリティ業務にAIエージェントを活用してきた。そこで蓄積したノウハウは「Security Forge」として製品化し、顧客企業にも提供しているという。

ブログで示した論点は、大きく5つある。

第1に、モデル単体では実用的なセキュリティレビューは成立しないという点だ。Palantirは、モデルを実務に組み込むには「ハーネス」が欠かせないとする。これは、作業をエージェントごとに分担し、アクセス権限を管理し、証拠を保全し、結果をエンジニアに引き渡すためのソフトウェアとルールの総体を指す。同社はAIPをこのハーネスとして活用している。

第2に、ハーネスの有効性は組織固有の文脈に左右される。サービス間の関係、信頼境界、デプロイ状況、過去のレビュー結果、担当者情報などをモデルに与えて初めて、精度の高い判断につながるためだ。Palantirは、こうした文脈情報をデータプラットフォーム「Foundry」で接続している。

第3に、その組織固有の文脈自体が競争力になるという点だ。同社は、こうしたデータや意思決定の記録を外部にさらすべきではないと強調する。外部のモデルベンダーにデータが渡れば、組織の防御力は高まらず、結果としてベンダー側のモデルだけが賢くなるためだという。実際、Palantirは全社員を対象に、先端AIモデルを提供する外部ベンダーのクライアントツールから自社開発ツールへの切り替えを完了したとしている。

第4に、AIエージェントの導入によって、脆弱性の発見より修正のほうが大きなボトルネックになった。AIエージェントは人手を大きく上回る速度で脆弱性を見つけられる一方、課題は見つかった脆弱性をどれだけ早く直せるかに移る。Palantirは、ソフトウェアデプロイプラットフォーム「Apollo」によって、検証済みの修正を全システムに自動反映している。

第5に、真の資産はモデルではなく、その周辺の仕組みだという点だ。モデルは継続的に進化するため、発見内容の記録、判断根拠の保存、修正のデプロイといった体制がなければ、モデルを差し替えるたびにゼロからやり直しになりかねない。Palantirは、Foundry、AIP、Apolloの3つのプラットフォームを組み合わせることで、この体制を維持していると説明した。

あわせて、他組織が参考にできる実行手順も示した。ソフトウェア資産の一覧を整備したうえで、対象範囲を絞ったコードレビューから始め、モデル周辺の統制体制を構築し、複数モデルを比較評価し、意思決定の記録を組織資産として蓄積していくことが柱になるとしている。