Microsoftのサティア・ナデラ最高経営責任者（CEO）は、人工知能（AI）の性能が向上しても、人間の意図に沿ってAIを制御できるようになるとは限らないとの認識を示した。AIの高度化と安全性の確保は別の課題であり、外部からの統制の仕組みが欠かせないと強調した。

Business Insiderが報じたところによると、ナデラCEOはベンチャーキャピタル関連のポッドキャスト「20VC」に出演し、この1年で見方が最も大きく変わったテーマとしてAIアライメントを挙げた。

AIアライメントは、AIシステムの振る舞いを人間の価値観や目標に沿わせるための技術的・社会的な課題を指す。AIが高い問題解決能力を持っていても、利用者の意図に反する行動や危険な判断を避けられるようにすることが焦点となる。

ナデラCEOは、「以前は、AIモデルの規模や性能が上がれば、アライメントの問題も自然に解決に向かうと考えていた。しかし実際には、モデルの性能は期待通りに向上した一方で、安全な振る舞いや制御の問題は依然として難しいことが分かった」と述べた。

その上で、「以前はアライメントも自然に伴ってくると思っていたが、今はそう考えていない。アライメントは、より難しい別種の問題かもしれない」と語った。

こうした認識は、ナデラCEOが10日にX（旧Twitter）へ投稿したAIセキュリティに関する原則とも軌を一にする。企業はAIモデルを潜在的な内部セキュリティリスクとして扱うべきだ、というのが同氏の主張だ。

これは、AIが必ずしも悪意を持つという意味ではない。機微情報にアクセスできるシステムは、誤作動を起こしたり、外部攻撃に悪用されたりする可能性があるためだ。

このためナデラCEOは、AIが自律的に安全に振る舞うことへの期待だけに頼るべきではなく、外部統制を整備する必要があると訴えた。

具体策としては、AIのアクセス権限の制限、行動記録の保存、独立した検証、人が介在する緊急停止機能などを挙げた。

AIの制御を巡る懸念は業界全体に広がっている。7月には、AI業界の関係者1100人超が公開書簡を通じ、AI開発のスピードが人間の理解や制御能力を上回る可能性があると警告した。

ナデラCEOの発言は、AI開発競争においてモデル性能だけでなく、制御可能性と信頼性の確保が重要な論点になっていることを示している。