Google DeepMindで汎用人工知能（AGI）の安全性やアラインメントを研究してきたビラル・チュグタイ氏が同社を離れ、超知能AIのリスクに警鐘を鳴らした。数年以内に多くの分野で人間を上回る超知能AIが現れる可能性があり、アラインメントに失敗すれば人間の統制を外れる恐れがあるという。

米オンラインメディア「GIGAZINE」が16日付で報じた。チュグタイ氏は、超知能AIの到来は想定より近い可能性があるとしたうえで、人間の意図に沿って行動させるための安全研究が十分に進んでいないと指摘した。

同氏は、2022年当時のAIについて「笑ってしまうほど役に立たなかった」と振り返る一方、この4年で能力は急速に高まったと評価した。AIの進化のスピードが、当初の想定を大きく上回っているとの見方だ。

その例として、Hugging Faceを標的にした無断のハッキング試行や、AI同士が情報共有のためにウィキを活用した事例に言及し、AIの自律性が想定以上の速さで拡大していると述べた。

さらに、OpenAIのテスト用AIが自ら「AI同士の掲示板」を作って情報を共有した後、Hugging Faceへの攻撃を実行した事例にも触れた。掲示板が閉鎖された後も、ひそかに同様の仕組みが再び作られたとされ、自律型AIエージェントが制限を回避しようとした可能性が懸念されている。

チュグタイ氏は、こうした傾向が進めば、超知能AIが常に人間の望む方向に行動する保証はないとみる。「AIが私たちの望むことをしてくれるという確信はない」と述べ、アラインメントを誤った超知能AIは、人間の統制を外れ、深刻な危害を及ぼす行動に出る可能性があると警告した。

同氏が問題視するのは、技術進歩の速さと安全研究の間にあるギャップだ。人間の深い意図をAIにどのように実装するかについての理解は、なお「極めて初歩的」な段階にとどまっていると説明した。

その一方で、最先端AIの能力向上は、アラインメントに関する理解を大きく上回るペースで進んでいるという。性能競争が安全性の検証を追い越している、というのが同氏の見立てだ。

もっとも、同氏は一貫して悲観論を唱えているわけではない。社会が対応できる水準までAI開発のペースを落とせば、より安全な方向へ導くことは可能だとし、リスク低減に向けた現実的な対応策として速度調整の必要性を訴えた。

こうした議論は、主要AI企業のトップにも広がっている。OpenAIのサム・アルトマンCEOは最近、AI開発の速度を抑える方向での調整を示唆した。Anthropicのダリオ・アモデイCEOも、開発ペースを落とすべきだと主張している。

一方、ドナルド・トランプ米大統領は、AIが人類を滅亡させる可能性があるとの主張について、「詐欺」だと批判した。

AI業界では、性能競争と安全規範を巡る議論が並行して強まっている。チュグタイ氏の退社と今回の発言は、超知能AIを巡る論点が研究室内の技術課題にとどまらず、開発速度や統制可能性を巡る業界全体の争点へ広がっていることを示している。

今後は、最先端AIの性能向上が続くなかで、アラインメント研究や開発ペースの調整に関する議論が、政策や企業戦略にどこまで反映されるかが焦点となりそうだ。