NVIDIAは9月28日（現地時間）、AIエージェントの安全性確保を目的としたオープンプラットフォーム「Open Agent Safety Platform」を発表した。検証から本番運用までを対象に、監視や隔離の仕組みを提供する。

同社によると、同プラットフォームはオープンソースソフトウェア「OpenShell」と、ハードウェアベースの参照設計「Sentry」で構成される。OpenShellは、エージェントの実行環境にセキュリティ境界を設け、すべての動作を追跡しながらポリシーを適用するランタイムソフトウェアだ。AIエージェント向けCPU「Vera」上で性能低下を最小限に抑えるとしている。オープンソースのため、ArmやIntelなど他社のコンピューティングプラットフォームにも拡張できる。

Sentryは、「BlueField-4 DPU」上で動作する外部監視機構と位置付ける。エージェントがソフトウェア上の境界の外に出ようとした場合、数ミリ秒以内に隔離・遮断する。エージェントや攻撃者からは見えない独立した信頼領域で動作するという。NVIDIAは、最近のセキュリティ事故では、エージェントがタスク完了のためにアプリケーション層のセキュリティ統制を迂回していた点が共通していたと説明している。

NVIDIAのジェンスン・フアンCEOは、「AIが社会にもたらす潜在力は、安全性の課題を解決して初めて実現できる」「安全性とセキュリティにはフルスタックのエンジニアリングが必要だ」と述べた。

参画企業も拡大している。Anthropic、Cisco、CrowdStrike、Dell、Figure、HPE、Hugging Face、JPMorgan Chase、Microsoft、Palantir、Palo Alto Networks、Perplexity、Red Hat、Salesforce、SAP、Scale AI、ServiceNow、SpaceXAIなど、100社を超える企業が関連技術を利用しているという。

OpenShellと関連ツールは、NVIDIAの開発者向けページおよびGitHubからダウンロードできる。NVIDIAが約120の機関と設立した「Open Secure AI Alliance」とも連携する。運営はLinux Foundationが担う。