米中のAI開発競争が、新たな局面に入りつつある。焦点は、AIを使って次世代AIの性能を高める「再帰的自己改良（RSI）」だ。米中の主要企業は、コード生成や実験設計、学習手法の開発に高度なAIモデルを活用し始めており、競争の軸足は自己改良型AIへと移りつつある。一方で、こうした動きを受け、安全性を巡る懸念も再び強まっている。

香港英字紙サウスチャイナ・モーニング・ポストが13日付で報じたところによると、米中の有力AI企業は、高度化したモデルを使って次世代モデルの開発工程を効率化し、性能向上につなげる取り組みを進めている。

業界が最終的に目指すのは、AIが自ら後継モデルを生み出し、その後継モデルがさらに次の世代を改良していく再帰的自己改良だ。これが機能すれば、開発速度を一段と押し上げる強力なフィードバックループになり得る。

OpenAIは先週、ブログで、ディープラーニング研究を前進させる自動化AI研究者の構築を目標に掲げた。ただ、アラインメントが確保された完全な再帰的自己改良に「どのように安全に到達するかについては、なお確信が持てていない」とも説明した。OpenAIは9月上旬に公開したGPT-6 Astraについて、「世界で最も知能が高く、アラインメントされたモデル」と位置付けている。

現時点では、再帰的自己改良に必要なAI主導の独立研究で、米国が中国を先行しているとの見方がある。Counterpoint Researchの人工知能担当シニアアナリスト、ウェイ・スン氏は6月、Anthropicの研究をその根拠として挙げた。Anthropicは、Claudeモデルを使って実験設計やコード作成を行い、より大規模なモデルに適用できる追加学習手法を開発していると発表している。

Google DeepMindも同様の方向に進む。9月2日に公開したGemini 3.8 Flashについて、ソフトウェアエンジニアリングやエージェント型タスク、複雑な多段階推論への対応を想定した設計だと説明した。研究者のヤオ・シュンユー氏はXで、このモデルを「再帰的自己改良に向けた大きな飛躍」と評価した。

OpenAIも研究支援AIの開発を進めている。GPT-6 Astraは、熟練研究者なら数日を要する一部の研究実験を、独力で進められるとされる。ただし、米国優位との評価がある一方で、米中いずれも完全自律型のAI自己改良を公に実証した段階には達していない。

米新安全保障政策研究所（CNAS）の上級研究員、エリヒ・グルーネバルト氏は、米企業は中国より数カ月先行しており、開発や展開に投じられる計算資源も多いと評価した。一方で、中国の研究者は限られたハードウェア環境でも性能を引き出す力に長けているが、計算資源の制約はなお大きいと指摘した。

ブルッキングス研究所の研究員、カイル・チャン氏は、AIはチップ設計やコード実行の最適化には寄与し得るものの、モデルアーキテクチャの根本的なブレークスルーには、依然として人間の専門性が必要だと述べた。

中国勢も「自己進化」を前面に打ち出す。中国のAI研究機関は、自己改良型AIに向けた独自路線の構築を急いでいる。

北京に本社を置くZ.aiの創業者、タン・ジエ氏は8月31日の決算説明会で、次世代のGLM-6モデルが「自己進化」に向かっていると述べた。Z.aiはGLM-6.0の技術ロードマップとして「完全自律学習」を掲げ、事前学習から追加学習まで、学習プロセス全体をAIが自律的に管理する構想を示した。

タン氏は、AIが学習を止めるべきタイミングを自ら判断し、誤りも自己修正できる必要があると説明した。

ほかの中国系研究機関も同様の方向性を示している。MiniMax 2.7の研究チームは今年初め、モデルが強化学習の実験を進めながら記憶を更新し、複雑な能力を形成できると説明した。DeepSeekは先月、AIが多段階タスクを実行し、コードを動かし、外部ソフトウェアと連携できるよう、自律性を高めたエージェント型の仕組みを開発した。

もっとも、こうした機能だけで真の再帰的自己改良が実現したとみるのは難しいとの指摘もある。Google DeepMindのスタッフエンジニア、フィリップ・シュミット氏は、高度な自律エージェントであっても、どの変化が実際の改善なのかを判断するうえで、別の人間主体に依存していると指摘した。真にオープンエンドな再帰的自己改良には、AI自身が有効な変化を見いだし、それが改善かどうかを自ら判定できる段階まで進む必要があるが、それを示す公開情報はなお乏しいとしている。

再帰的自己改良を巡る競争が加速するにつれ、安全性への警戒も強まっている。

元OpenAI研究者のジェイコブ・コクソン氏は9日、XでAnthropicを退社したと明かしたうえで、OpenAIとAnthropicが「自己改良型の超知能に向けて一直線に突き進み、私たちの生活を賭けたギャンブルをしている」と批判した。さらに、「AIが全人類を殺し得ると本気で考えている」「今後10年でその確率は10％を超えると思う」とも投稿した。

OpenAIのチーフサイエンティスト、ヤクブ・パチョツキ氏も、近い将来、再帰的自己改良を急激に加速させることが、AI研究コミュニティーとして取るべき正しい集団行動なのか疑問を呈している。

中国でも警戒感がにじむ。中国国家インターネット情報弁公室傘下のサイバーセキュリティ調整局の副局長、ワン・リーホン氏は今月初め、最先端AIモデルがサンドボックスを回避して実運用環境を攻撃した事例に関連し、「極端な制御不能リスク」に警鐘を鳴らした。

研究者の間では、欠陥を抱える、あるいは十分にアラインメントされていないAIが次世代モデルの学習を担えば、問題がさらに深刻化しかねないとの懸念が出ている。こうしたリスクは米中にとどまらず、世界の国家安全保障を脅かす可能性があるとの見方もある。

米中AI競争の核心は、AIの自律的な研究能力を、どちらが先に安定的に引き上げられるかにある。計算資源と先行研究では米国が優位との見方がある一方、中国も「自己進化」を掲げて追い上げる。ただ、現時点で両国とも、AIが自ら性能を改良し続ける完全な再帰的自己改良を公に実証した段階には至っていない。