先端AIを開発する有力企業の間で、安全性の確保を理由に開発ペースの抑制や規制整備を求める声が強まっている。一方、米政権は追加規制に慎重な構えを崩しておらず、AI開発を巡っては企業側と政府側の立場が逆転した構図が鮮明になっている。

一般に規制強化は政府が主導し、企業は規制緩和を求めることが多い。だが先端AIを巡っては、AnthropicやOpenAIなどの開発企業が安全面のリスクを理由に一定の歯止めを訴えるのに対し、米政府は過度な規制が競争力を損なうと警戒している。

ドナルド・トランプ米大統領は、AIに対する連邦規制の強化に否定的な立場を示している。安全上の懸念を「詐欺」だと主張し、規制強化は米AI企業を弱体化させ、中国に優位を明け渡す結果になると警告した。

トランプ大統領は14日、ソーシャルメディア「Truth Social」への投稿で、「AIに必要な唯一の安全装置は、強く賢い大統領だ。米国にはまさにそうした大統領がいる」と述べた。さらに、「AIとデータセンターを標的にした邪悪な陰謀が進行しており、それを歓迎するのは中国だけだ」とも投稿した。

別の投稿では、業界のリーダーがなぜ規制を求めるのか疑問を呈し、そうした要求が業界を破綻に追い込む可能性があると反論した。

もっとも、AIデータセンターを巡る世論は必ずしも政権の立場と一致していない。3月のギャラップ調査では、回答者の半数近くが地域でのAIデータセンター建設に強く反対し、共和党支持層でも4割近くが反対した。Wall Street Journalは、AIデータセンターが11月の中間選挙を前に、与野党双方にとって政治的な負担になっていると報じた。

こうした中、米主要AI企業の経営陣は開発減速の必要性を相次いで訴えている。Anthropicのダリオ・アモデイCEOはブログで開発ペースの調整を提唱し、国際協調の必要性も強調した。「モデル能力が危険な水準に達する前に1〜2年でも時間を稼げれば、深刻な事故のリスクを大幅に下げられる」としている。

OpenAIのサム・アルトマンCEOやイーロン・マスク氏も、アモデイCEOの問題意識に歩調を合わせている。アルトマンCEOはソーシャルメディア「X」で、「人類が将来、AIに制御を奪われる可能性がある」と警告したうえで、「連邦レベルで一貫した安全基準を導入することを歓迎する」と投稿した。

Anthropicの元研究者ジェイコブ・コクソン氏も、退職時にAnthropicと競合各社が制御不能なシステムの開発競争を続けていることへの懸念を表明した。

それでも米政府は、業界が求める形でAI規制を進めることには懐疑的だ。J・D・バンス副大統領は「政府は賢く規制すべきだ」としつつ、企業が求める追加的な安全措置の導入には慎重な姿勢を示した。「フロンティアAI企業が政府に規制してほしいと懇願する姿は、トロイの木馬のように見える」とも語った。マイク・ジョンソン下院議長は、トランプ大統領が今週ホワイトハウスでAI企業と会い、対応策を協議する見通しだと明らかにした。

AI開発の減速を実効性あるものにするには、主要国間の協調が前提になるとの見方が多い。ただ、現状ではその実現は容易ではない。とりわけ、世界のAI開発競争を主導する米国と中国が、規制を巡って足並みをそろえるのは現実的に難しいとの指摘がある。アモデイCEOも、自身の提案に中国が加わらない可能性が高い点を最大のジレンマとして挙げた。

中国政府はすでに、米AI業界から出ている開発減速論に反発している。CNBCによると、中国外交部は、AI開発を遅らせるべきだとの主張は、むしろグローバルなAIガバナンスの進展を妨げる可能性があるとの立場を示した。

投資家の間でも、こうした減速論を過剰反応とみる声が出ている。ベンチャー投資家で、米大統領科学技術諮問委員会（PCAST）の共同議長を務めるデイビッド・サックス氏は、AnthropicとOpenAIが打ち出した減速論に反対する考えを明確にした。

映画「The Big Short」のモデルとして知られ、2008年のサブプライムローン危機を見抜いたことで知られるマイケル・バーリー氏も、OpenAIとAnthropicによるAI安全性への警告は、自己利益を狙ったIPO向けの宣伝文句にすぎないと批判した。フロンティアAIの開発減速を求める主張は、競合が追い上げる局面で既存企業を守る意図によるものだとし、「技術が強力すぎて危険になり得るという考えを誇張している」と指摘した。