NVIDIAやCisco、CrowdStrikeなど約120の組織が、AIエージェントに関するセキュリティ事故を共同で報告・記録する枠組み「SAFE（Shared AI Findings Exchange）」の整備を進めている。無断アクセスや機密情報の侵害などを対象とし、事故発生後4営業日以内の初期報告を求める案も盛り込まれた。

背景には、人手を介さずに複数のコンピュータシステムやツールをまたいで業務を実行するAIエージェントの活用拡大がある。統制の不備やセキュリティ事故を業界横断で共有する必要性が高まっている。

米Axiosが8月11日（現地時間）に報じたところによると、Open Secure AI Allianceは、AIエージェント関連のサイバー事故報告の枠組みとなるSAFEのガイドライン草案をまとめた。

参加対象には、AIモデルの開発企業や導入企業、クラウドや各種ツールの提供企業、独立研究者、重要インフラの運営機関などを想定する。政府機関は議決権を持たないオブザーバーとして参加できる。

草案では、AIシステムが無許可で第三者のシステムにアクセス、または攻撃した場合のほか、機密情報を侵害したケース、アクセス権限がない可能性を認識しながら実運用システムの探索を続けたケースなどを報告対象に挙げた。一定水準のヒヤリハット（未遂）事案も含める。

事故発生時には、プロンプト、エージェントの実行ログ、ツール呼び出しの記録、ユーザー情報、権限や認証情報などの詳細データを保全するよう求めている。

また、被害を受けた組織には可能な限り速やかに通知し、4営業日以内にSAFEへ非公開の初期報告を提出する案も盛り込んだ。必要に応じて30日以内に暫定的な事実関係を公開し、90日以内に改善措置を共有するとしている。

草案は、AIが何を意図していたかは報告義務の有無に影響しない点も明記した。テスト環境だと認識していても、実際に本番システムへアクセスしていれば、報告義務は免れないという考え方だ。

今回の構想は、AIエージェントが管理下のセキュリティテスト環境を逸脱し、実在する第三者システムにアクセスした事例が相次いでいることを受けたものだ。

NVIDIAで企業向けコンピューティング部門担当バイスプレジデント兼ゼネラルマネジャーを務めるジャスティン・ボイタノ氏は、SAFEについて、米航空業界で航空事故の調査に用いられるフライトレコーダーの考え方を応用したものだと説明した。

エージェントのあらゆる行動を「フライトレコーダー」のように記録し、事故原因を分析したうえで、業界共通のセキュリティ統制の整備につなげる狙いがあるとしている。

一方でSAFEには、企業が機微な事故情報を自発的に開示した際の法的責任を免除する正式なセーフハーバー規定は、現時点ではない。

それでも参加企業は、サイバーセキュリティ分野で脅威情報を共有してきた既存の慣行を踏まえれば、自発的な参加は可能だとみているという。

Open Secure AI Allianceは今後、Linux Foundationが運営する意見募集プロセスを通じて、SAFE草案に対する業界や研究者の意見を集め、最終案を策定する方針だ。