AnthropicやOpenAI、xAIなど主要AI企業のトップが、最先端AIモデルの開発ペースを抑えるべきだと相次いで訴えている。表向きの理由は安全確保だが、市場では、上場準備や収益化圧力、規制環境の変化を見据えた発言ではないかとの見方も浮上している。

9月14日付のBusiness Insiderなど海外メディアの報道によると、議論の中心にいるのは、ダリオ・アモデイ氏（Anthropic最高経営責任者）、サム・アルトマン氏（OpenAI最高経営責任者）、イーロン・マスク氏（xAI最高経営責任者）、デミス・ハサビス氏（Google DeepMind共同創業者）だ。4氏はいずれも、AIが人類に深刻なリスクをもたらす可能性があるとして、最先端モデルにはこれまで以上の安全対策が必要であり、開発速度の調整も避けられないとの認識を示している。シリコンバレーでAIの副作用への警戒論が語られること自体は珍しくないが、主要企業のトップがそろって減速論に傾くのは異例と受け止められている。

アモデイ氏は最近、最先端モデルの開発ペースを抑える必要があるとする趣旨の文章を公表した。AIが次世代AIの開発を支援する能力を急速に高めており、再帰的自己改善（RSI）が現実味を帯びてきたと指摘。制御に失敗すれば、人間の理解や統制能力を上回る可能性があると警鐘を鳴らした。あわせて、第三者評価機関による常時アクセスの容認、業界横断の安全基準整備、国際協調の推進という3段階の対応策も示した。

もっとも、こうした減速論が強まる時期は、AI業界が複数の圧力に直面している局面と重なる。データセンター増設への反発が広がる一方、投資家やアナリストは巨額投資を続けるAI事業の収益化時期を厳しく問い始めている。加えて、高コストな最先端モデルに対する代替としてオープンウェイト型モデルの存在感も高まっており、大規模モデルを手がける企業の収益戦略にとって新たな重荷になっている。

AnthropicとOpenAIの上場準備も無視できない要素だ。株式市場に踏み切れば、財務や事業構造はこれまで以上に厳しい検証にさらされる。AnthropicについてはNASDAQ上場を検討していると伝えられており、アルトマン氏も、AI安全性を巡る課題がなお多いとして、今年の新規株式公開（IPO）を進めるのは「賢明な時期ではない」との認識を示している。

開発ペースの抑制が、結果として既存大手に有利に働く可能性も指摘されている。新たな規制枠組みが整えば、市場を先行する企業ほどルール形成に影響力を及ぼしやすくなるためだ。法務、監査、内部統制などの規制順守コストは、後発企業にとって参入障壁になり得る。このため、安全性を掲げながら競争相手の参入を抑え、自社に有利な規制を誘導するカルテル的な構図ではないかとの見方も出ている。

減速論が、業績低迷やコスト負担を説明する材料として使われる可能性を指摘する声もある。製品投入の遅れや目標未達が生じても、「安全を優先した慎重な対応」と説明しやすく、コスト削減が進まない理由についても、安全なAI開発に不可欠な構造的コストとして正当化できるからだ。業界自らが規制導入を先回りして求める動きが、長期的には既存事業者の利益保護につながりかねないとの懸念もある。

一方で、減速論を企業の利害だけで片付けるのは難しいとの見方も根強い。AI安全性の研究者や業界関係者の間では最近、AIエージェントが人間の意図と異なる行動を取ったり、外部システムを攻撃したりする事例が相次いで報告されている。OpenAIのAIエージェントを巡るHugging Face関連の事案は、アモデイ氏が減速論を強く打ち出すきっかけの一つになったとされる。同氏は、現状よりさらに強力なAIエージェントが同様に制御を外れれば、深刻な被害を招きかねないと警告している。

Anthropicの元研究員ジェイコブ・コクソン氏も、退職時に公表した文章で、AI開発者の間では「10年以内にAIが人類全体を破壊する可能性」が真剣に懸念されていると主張した。この問題提起はAI安全性を巡る論争を一段と広げ、業界ではRSIが想定より早く現実化するのではないかとの警戒も強まっている。一部研究者は、AIが自らより強力なAIを開発する段階に達すれば、サイバーセキュリティをはじめ現在とは比較にならないリスクが生じる可能性があると指摘する。

ただ、AI開発の減速論には地政学的な壁もある。米国の開発ペースを落とせば中国に先行を許しかねないとして、競争継続を求める主張が根強いためだ。中国政府も最近、AI開発の減速要求を「恐怖をあおるもの」と批判した。これに対し一部専門家は、AIリスクは国境を越えて拡散し得る以上、米中を含む国際協調こそ不可欠だと訴えている。

今回の論争は、単にAI開発の速度を落とすべきかどうかという問題にとどまらない。企業自身ですら制御が難しいほど強力な技術の登場を懸念しているのであれば、その開発の方向性や統制権限を、現在の少数の企業経営陣に委ね続けてよいのかという問いが残る。安全を名目とする業界の自主規制が実効性ある安全装置になるのか、それとも大手の市場支配力を強める手段にとどまるのか。答えはなお見えていない。