NVIDIAが主導するOpen Secure AI Alliance（OSAA）は、発足から1週間で初の作業部会「SAFE（Shared AI Findings Exchange）」を立ち上げ、AIのサイバーセキュリティ事故への対応案を公表した。

TechCrunchが4日（現地時間）に報じたところによると、OSAAの参加企業はすでに120社を超えた。

SAFEは、米ラスベガスで今週開かれたセキュリティカンファレンス「Black Hat」にあわせて提案書を取りまとめた。Linux Foundationがパブリックコメントの募集と提案書の管理を担う。

提案には、AIのサイバーセキュリティ事故を機密性を保ちつつ報告する仕組みや、被害当事者への通知手順、責任追及より学習を重視する事後分析の枠組みなどを盛り込んだ。大幅な技術変更を求める内容ではなく、まずは業界共通の対応ルールを整備することに重点を置いている。

OSAA参加企業はあわせて、AIセキュリティに活用できるオープンソース技術のリスト化も進めている。

各社の取り組みも動き始めている。NVIDIAは複数のオープンモデルに加え、オープンソースの大規模言語モデル（LLM）向け脆弱性スキャナー「Garak」を提供している。Oktaはエージェントのアイデンティティ技術、Red Hatはエージェント・ガバナンスを開発中だ。Amazonはエージェント構築ツール「Strands Agents」と認可言語「Cedar」を打ち出している。

参加企業にはAdobe、BlackRock、Cisco、Intel、Microsoft、Visaなどが名を連ねる。一方、Anthropic、OpenAI、Googleは現時点で加わっていない。

OpenAIとGoogleは先週、ホワイトハウスに対し、オープンソースAIを支援し、抑制しないよう求める書簡に署名した。書簡はNVIDIAが主導し、200社超のテクノロジー企業が参加している。