イーロン・マスク氏は、主要なAI企業が新モデルを公開する前に、互いのモデルの安全性を検証し合う枠組みの導入を提案した。AIの開発競争が加速する一方で、安全性の確保をどう両立させるかを巡る議論が強まっている。

米CNBCが9月15日報じたところによると、マスク氏はロサンゼルスで開かれた「All-In Summit」で、SpaceXのほか、OpenAI、Anthropic、Google、Metaに加え、中国の主要AI企業3〜4社もこの相互検証に参加すべきだとの考えを示した。

提案の骨子は、各社が自社モデルを自己評価するのではなく、競合他社が共通の試験基準に基づいて安全性を検証するというものだ。競合の立場から懸念される問題点を見つけた場合、事前に警告を発することができるため、企業が自ら性能や安全性を評価する方式よりも有効になり得ると主張した。

マスク氏は、この方式について「完璧な解決策ではない」としつつ、「問題を見つけ出せる可能性は劇的に高まる」と述べた。

今回の提案の背景には、AI業界で開発スピードと安全性を巡る論争が一段と強まっていることがある。足元では、AnthropicやOpenAIなど主要AI企業の関係者から、高度なAIモデルのリスクを警告し、開発ペースを抑える必要があるとする声が相次いでいる。

マスク氏とOpenAIのサム・アルトマン氏も、Anthropicのダリオ・アモデイ氏が示した、開発速度の見直しを求める提案に同調した。

こうした議論が広がる背景には、AI研究者による公の警告もある。最近Anthropicを離れたジェイコブ・コクソン氏は、先端AI研究所が「人命を賭けた賭けに出ている」と主張した。

OpenAIでも勤務経験のあるコクソン氏は、業界の安全基準はなお不十分だと指摘した。Anthropicでアラインメント研究の責任者を務めるエバン・ヒュビンガー氏もこれに同調し、AIが今後10年以内に人類全体に致命的な被害をもたらす可能性が10％を超え得るとの見方を示した。

これに対し、AI開発のペースを抑えるべきだとする主張に対し、米国政府と中国は否定的な姿勢をみせている。ドナルド・トランプ米大統領は、AIを巡る懸念や規制強化の要求を退け、米国は開発速度を落とすべきではないとの立場を示してきた。

ホワイトハウス国家経済会議（NEC）委員長のケビン・ハセット氏も、AIに関する懸念への対応は民間が担うべきだとの認識を示した。

中国側からも、AI企業による開発減速の要求に否定的な反応が出ている。中国外務省の報道官は、AI開発の減速を求める主張について、恐怖をあおるものだとの趣旨で批判した。

トランプ氏は、米国がAI開発の速度を落とせば、中国が技術競争で優位に立つ可能性があるとも主張してきた。アモデイ氏は、米国のAI競争力の維持と安全性の確保を同時に追求しなければならない点を難しいジレンマだと述べている。

マスク氏は、競合各社が現時点で自身の提案に同意しているわけではないことも認めた。これとは別に、アモデイ氏は外部の評価担当者がAI研究所の内部に入り、安全ルールの順守状況を検証する第三者評価の仕組みも提案している。

マスク氏は、自らの相互検証案について「正しい方向への一歩だ」と述べ、比較的短期間で始められる取り組みだと強調した。中国企業もこの方式に同意する可能性があるとの見方も示した。

AI開発競争が米中の技術覇権争いと重なる中、競合企業同士による相互検証が実際の協調体制につながるかはなお不透明だ。ただ、開発スピードと安全性確保を巡る議論が続く中、企業間で安全性をどう検証し、どう協力するかは、今後の主要な論点として浮上している。