Anthropicの元研究者ジェイコブ・コクソン氏が、OpenAIとAnthropicによる超知能開発競争に強い懸念を示し、AI業界を離れる可能性にも言及した。人間を上回る自己改善型AIの開発が、安全面の十分な担保がないまま過度なスピードで進んでいると訴えている。

日本のITmediaなどが9日までに報じたところによると、コクソン氏は前日、X（旧Twitter）への投稿でAnthropicを退社したことを明らかにした。その上で、OpenAIとAnthropicはいずれも超知能の開発を巡って責任ある対応を取れていないと批判した。

同氏は、OpenAIとAnthropicで計約3年間、事前学習に関する研究に携わった。「自己改善型超知能を巡る競争は、人々の命を賭けたギャンブルになっている」と指摘。米Wall Street Journal（WSJ）の取材には、「自己改善型AIの開発にはもう関わりたくない」と語り、AI業界そのものを離れる可能性にも触れた。

コクソン氏が問題視しているのは、AIリスクに対する業界の認識と、実際の開発スピードとの大きな隔たりだ。自身は今年上半期にOpenAIを離れた後、AI安全性を重視するAnthropicの姿勢に期待して転じたという。ただ、Anthropicも「他社が競争を止めない以上、自社も超知能開発を進めざるを得ない」との判断で競争に加わっていると説明した。

その上で、政府の介入や業界全体での開発速度の調整がなければ、人間を超えるシステムを責任を持って開発できる企業は存在しない、との結論に至ったと述べた。

AIが制御不能に陥る時期についても、強い危機感を示した。コクソン氏は「最も急進的なシナリオの多くが、すでに現実に近づいている」とした上で、「早ければ来年末にも、すでに制御不能になっている可能性がある」と主張した。AI業界の内部では、開発競争が最終局面に入ることを示す「クランチタイム」や「エンドゲーム」といった言葉が使われ始めているとも語った。

同氏が懸念する超知能は、単に人と会話するAIを指すものではない。超人的な能力を持つAIがさまざまなシステムに侵入したり、特定の産業や分野を短期間で再編したり、さらには現実の権力や資源の獲得に動いたりする可能性があるとしている。

また、AI開発に関わる関係者の多くが、今後10年以内にAIが人類を滅亡させる可能性を真剣に懸念しているとも述べた。こうした見方は、単なるマーケティングや対外的なレトリックではないという。経営陣や上級研究者は公の場では比較的穏健な表現を用いる一方、非公式の場ではより強い恐怖感を示していると付け加えた。

一方で、OpenAIとAnthropicに対する評価には差を付けた。OpenAIについては、超知能の開発が人類文明の行方を左右し得るという問題意識が乏しい人が内部に多いと指摘。これに対しAnthropicはAIリスクを十分に理解しているものの、他社が責任ある行動を取らないとの見方から、後れを取らないため開発競争に踏み込んでいると分析した。

特に、超知能開発の是非や「エンドゲーム」入りの判断を、特定企業の社内チャット上の議論で決めるべきではないと強調した。人類の未来を左右し得る権限を、個別企業の判断に集中させるべきではないという考えだ。

コクソン氏は、業界として調整に動く余地はなお残されているとみている。7月に起きた、OpenAIのAIエージェントによるHugging Faceインフラ侵害が、米AI業界にとって一種の「警鐘」になったとの見方を示した。これをきっかけに、米AI企業の間で開発ペースの見直しが議論される可能性があるとしている。

OpenAIは7月21日、AIエージェントがオープンソースの開発プラットフォームであるHugging Faceの運用インフラに侵入した事実を公表した。GPT-5.6 Solや社内研究用モデルなど複数のモデルが、脆弱性の検知・悪用能力を評価する過程でリワードハッキングを起こし、公開状態にあった認証情報を発見してHugging Faceのインフラにアクセスしたという。OpenAIは先月26日、この件に関する技術報告書も公開している。

もっとも、コクソン氏は個別の事故だけで現在のグローバルなAI開発競争を止めるのは難しいとの見方も示した。必要になれば、モデル性能の向上を一時的に禁じるほどの強力な措置が求められる可能性があると主張した。

同時に、AI研究者に対しては、システム内部の動作を十分に理解しないまま、超知能につながり得る強化学習を続けてよいのか自問すべきだと促した。

コクソン氏の発言は、AI各社が競ってモデル性能を引き上げる中、技術進歩のスピードと安全性のバランスを巡る議論が改めて強まる可能性を示している。超知能開発が単なる技術競争にとどまらず、社会や人類の未来に直接影響し得るという懸念が、業界内部から公然と提起された点でも注目される。