OpenAIのサム・アルトマンCEOは3月1日（現地時間）、X（旧Twitter）で米国防総省向けのAI契約について説明し、Anthropicが要求を拒否した後にOpenAIがAIモデルの提供を決めたと明らかにした。AIの国防利用が広がるなか、安全保障と規制を巡る議論も改めて浮上している。

Business Insiderによると、アルトマン氏は契約に至った経緯について、「Anthropicはより強い運用上の統制を求めたようだ。我々は契約条項に慣れていたため、迅速に合意できた」と述べた。契約については「急いでまとめたが、良い結果を期待している」とも語った。

OpenAIはAIモデルの利用に関して3つの「レッドライン」を設けている一方、技術の進展に応じて見直す可能性があるとしている。アルトマン氏は「ChatGPTが論争のある問いに答えるかどうかは我々が決められるが、核兵器対応のような重大な倫理判断は政府が担うべきだ」と強調した。

米国防総省との協力については、数カ月前から非公式に協議を進めており、足元では機密交渉の段階に入ったという。アルトマン氏は「AI業界と政府の対立は、Anthropicにも、健全な競争にも、米国にも危うさをもたらす」と述べたうえで、「すべてのAI研究機関が同様の条件提示を受けられるよう交渉した」と説明した。

AIの活用余地については、サイバー攻撃の防御や生物セキュリティ分野で大きな役割を果たすとの見方を示した。電力網をまひさせる恐れのあるサイバー攻撃への対応や、新たなパンデミックへの備えにも有用だとしている。

一方でOpenAIは、政府が契約条件に違反した場合には契約を解除できるとしている。ただ、実際にそうした事態が起きる可能性は低いとの見解も示した。

これに先立ち、米国防総省はAnthropicに対しても、AIを活用した大規模監視や自律兵器の開発を求めたが、同社はこれを拒否した。その結果、2億ドル（約300億円）規模の国防契約が取り消され、連邦機関との協業も禁じられたという。Anthropicは法的対応を予告している。

TechCrunchは、この一件を巡り、AI業界が自ら招いた状況だとの批判も出ていると報じた。MIT教授で物理学者のマックス・テグマーク氏は、AI企業が規制回避を選んだ結果が「ブーメランになった」と指摘する。Anthropic、OpenAI、Google DeepMindなどは安全性を強調する一方、強力な規制には反対してきたという。

一方、AI業界が事実上の無規制状態で成長してきたため、企業が政府の要求を拒みにくくなったとの見方もある。テグマーク氏は「AIが国家安全保障を脅かし得る存在と受け止められるなか、AI企業は自ら生み出したリスクに直面している」と述べた。

AI技術は急速に高度化しているが、制度整備は追いついていない。AIが高度な数学コンテストで優勝するほど進化する一方、企業側はなお自主規制を主張しているという。

ただ、AIが国家安全保障と直結するようになったことで、政府の関与は避けられなくなりつつある。テグマーク氏は「AI企業は自主規制を掲げて政府介入を避けようとしてきたが、その選択がいまや自らの足かせになっている」と語った。

Anthropicの対応を受け、AI企業が今後、政府との関係をどう組み直すのか、あるいは国防契約の受け入れに傾くのかに注目が集まっている。今回の件について、GoogleとxAIは沈黙を保っている。