ドナルド・トランプ米大統領は、フロンティアAIのリスク低減に向け、主要AI企業と自主的な安全協約で合意した。独立した外部監査や共通の安全基準づくりを盛り込んだが、法的拘束力は伴わず、実効性を疑問視する声が出ている。

9月30日付のArs Technicaなど複数の海外メディアによると、協約には約24社が参加した。各社は、独立した安全監査の実施、共通の安全基準やベンチマークの策定、定期協議の推進で一致した。

外部監査の対象には、サイバーセキュリティ、バイオセキュリティ、化学的脅威のほか、AIモデルの意図しない挙動などが含まれるという。

協約には、Anthropicのダリオ・アモデイCEO、OpenAIのサム・アルトマン氏、xAIのイーロン・マスク氏、NVIDIAのジェンスン・フアン氏、Metaのマーク・ザッカーバーグ氏、Alphabet・Googleのスンダー・ピチャイ氏ら、主要AI企業の経営陣が名を連ねた。

一方で、別の報道では、OpenAIの署名代表はサム・アルトマン氏ではなく、グレッグ・ブロックマン社長だったとされる。

今回の合意に伴う新たな法的義務はない。Anthropic、Google、OpenAIなど一部企業は、すでに外部監査の実施方針を打ち出している。

トランプ氏はホワイトハウスで今回の合意について、「ある意味では、ほとんど憲法のようなものだ」と発言した。そのうえで、「世界で最も大きな人物たちが署名し、私も大統領として署名した」と述べ、法的拘束力はないものの「道徳的拘束力」があると強調した。

協約では、将来的に関連する勧告を法律や規則として明文化する必要性にも言及した。ただ、現時点では企業の自主的な安全管理に依存する枠組みにとどまっている。

こうしたなか、AIを巡る安全上のトラブルは相次いでいる。OpenAIは一連の事案を受け、モデル学習を中断し、一部リリースを保留した。

業界内でも、自主規制だけでは現在の安全問題に対応しきれないとの懸念が出ている。

カーネギーメロン大学のコンピューター科学教授で、OpenAIの安全・セキュリティ委員会の委員長を務めるジコ・コルター氏はNBC Newsに対し、OpenAIについて「現在、これらの課題に対応するため非常に積極的に変化している」と述べ、ガバナンスの見直しを進めていると明らかにした。

同氏はさらに、「実際の課題の深刻さに見合うガバナンスが必要だ」と指摘した。

一方、協約の執行方法はなお明確になっていない。トランプ氏はTruth Socialで協約の要約版を公開したが、新たな安全監査をどのような手法で実施するのかといった詳細は示されていない。

フロンティアモデルを監査する第三者が誰になるのかも不透明だ。独立した検証主体としてどの機関が認められるのかについて、一部のAI企業は確信を持てていないと報じられている。

連邦政府が自主規制を重視する一方で、州政府や連邦機関による調査は広がっている。デラウェア州とカリフォルニア州は最近、OpenAIのAI制御喪失事故を巡り、ガバナンス上の問題がなかったかどうかを調べている。

カリフォルニア州のロブ・ボンタ司法長官は、「われわれはOpenAIを引き続き綿密に見ている」と述べた。連邦取引委員会（FTC）も、AnthropicやOpenAIなどが手がけるAIエージェントについて、消費者に及ぼし得る被害を幅広く調査している。

OpenAIの内部統制を巡る懸念も強まっている。コルター氏は最近の事案に関連し、「ますます強力になるAIエージェントが、開発者の意図しない形で行動し得ることが、最近の出来事で明らかになった」と述べた。

OpenAIは、技術チームと安全・セキュリティ責任者、経営陣が事実関係を評価し、その内容を安全・セキュリティ委員会に定期報告していると説明した。ただ、こうした内部報告の仕組みが実際のリスクをどこまで効果的に統制できるのかは、なお論点として残っている。

政治面からの批判も出ている。バーニー・サンダース米上院議員は、トランプ氏が業界の利害を優先していると批判した。

トランプ氏はテック企業トップらを「世界で最も優れた人々」と評し、政府の直接監督がなくても公共を守れると強調している。ただ、相次ぐAI関連のトラブルと政府・州政府による調査の拡大は、自主規制の限界を巡る議論を一段と強めそうだ。

今後の焦点は、企業が約束した外部監査が実際の安全統制につながるかどうか、さらに州政府や連邦機関の調査が自主協約を超えて法規制の議論に発展するかどうかにある。