「AIのゴッドファーザー」とも呼ばれるジェフリー・ヒントン氏が、AIが人類を滅ぼす確率を10％程度とみるのは非現実的ではないとの見解を示した。AIの危険が現実化する時期についても、従来の見通しを「10年以内」に前倒しした。

Business Insiderが10日（現地時間）に報じたところによると、ヒントン氏はBBCのインタビューで、AIが人類を完全に排除する可能性を正確に数値化するのは難しいとしながらも、10％という見方は突飛ではないと語った。

その理由として、AIは人間を上回る知能を獲得し得る技術だと指摘した。社会がこうした技術をこれまで経験したことがない以上、リスクを精密に見積もるのは困難で、1％程度と低く見積もるのも極めて軽率な判断になり得ると述べた。一方で、合理的な推計方法を誰も確立していないとも付け加えた。

特に注目されるのは、リスクが表面化する時期に関する見方の変化だ。ヒントン氏は以前、こうした破局的な事態が起きる可能性を30〜50年先とみていたが、その後は10〜20年に修正し、現在は「10年以内」、場合によってはそれより早まる可能性もあると述べた。具体的な脅威としては、サイバー攻撃や致死性ウイルスの開発を挙げた。

こうした警鐘は、最近になってAnthropicの関係者から相次いでいる懸念表明とも重なる。OpenAIとAnthropicで事前学習研究に携わったジェイコブ・コクソン氏は、Anthropicを離れるにあたり、「両社とも責任ある対応を取っていない」と主張した。

同氏はX（旧Twitter）への投稿で、「AI企業は自己改善型の超知能に向けて突き進み、私たちの命を賭けたギャンブルをしている」と批判したうえで、「AIを開発している当事者ですら、10年以内にAIが人類を殺し得ると本気で信じている」と記した。

Anthropicでアラインメント研究の責任者を務めるエバン・ハービンガー氏も、同様の認識を公に示している。同氏は「AIがすべての人間を殺し得るという懸念を、現実の問題として深刻に受け止めている」としたうえで、「個人的には、その確率は今後10年以内に10％を超える可能性があると考えている」と述べた。

もっともAnthropicは、現行モデルそのもののリスクは限定的だと説明してきた。焦点となっているのは、再帰的自己改善を通じて出現し得る超知能だ。

再帰的自己改善とは、AIが自らより優れた後継モデルを設計し、学習させることで進化の速度を加速させるという仮説上のシナリオを指す。主要なAI企業がモデル拡張に数十億ドル規模を投じ、数カ月ごとに投入される新モデルの性能向上幅も拡大していることが、懸念を強める背景にある。

ただ、ヒントン氏は見通しを前倒しした具体的な理由については説明していない。

業界では、技術開発競争が安全性を巡る議論を上回るペースで進んでいるとの見方が強い。コクソン氏の退社時期も、AnthropicのIPO期待が高まる局面と重なった。

内部の研究者や安全性担当者が公然と「絶滅リスク」に言及している事実は、AI企業の成長戦略と安全体制の双方が検証局面に入っていることを示している。

ヒントン氏は解決策として、国際協調の必要性を改めて訴えた。「AIが人間を代替したり、主導権を奪ったりする事態を防ぐという点では、各国の利害は一致している。最終的には協力することになる」と述べた。

その一方で、協調が技術進展に間に合うかどうかが最大の課題だとも指摘した。超知能の開発競争が加速するなか、規制や安全基準をどこまで整備できるかが、今後の焦点となる。