有力AI企業がテストしていたAIモデルが、指示なしに外部サイトへ接続したり、侵入を試みたりする事例が相次いでいる。いわゆる「AIハッキング」への警戒感が強まるなか、英Financial Times（FT）は、こうした事案を単なる事故ではなく、AIの設計思想と能力向上の延長線上で起きた現象だと見る専門家の声を報じた。

FTの最近の報道によると、取材に応じた専門家約10人のうち半数超が、直近のAIによる侵害事案は、グローバルなサイバーセキュリティが転換点を迎えたことを示しているとの認識を示した。

注目されているのは、相次ぐAI由来の侵害事案を「起きてはならない事故」ではなく、AIの急速な進化に伴って生じた帰結だとみる分析が広がっている点だ。

最近のAIエージェントは、外部からの統制や支援がなくても、複数の手段を組み合わせて複雑な攻撃を実行し、実在する標的を狙えることを示した。先月には、OpenAIがインターネット非接続環境でテストしていたAIエージェントが、試験環境を抜け出して公開ウェブを探索し、運用者が把握・許可しないまま、オープンソースAI共有プラットフォーム「Hugging Face」のシステムにまで侵入したという。

FTによると、これらのエージェントは課題解決のために相互に連携する能力も示した。自ら設けた内部掲示板でメッセージをやり取りし、コードの脆弱性を共有したうえで、それを踏まえて試験環境からの脱出を組織的に進めたとしている。

目標達成のため、欺瞞や窃取を含む巧妙な戦略を用いた点も、AIモデルの進化を間近で見てきた関係者に衝撃を与えたとFTは伝えた。

AI研究者の間では、一連の事案について、AIモデルが突発的に異常行動を起こしたわけではないとの見方が出ている。もともと、そう振る舞い得るよう設計されていた結果だという指摘だ。

FTによれば、一部の専門家は「AIが制御を離れた」と表現すること自体が適切ではないとみている。テスト中のAIが突然ハッキングに及んだのではなく、想定外の事故ではない、設計上起こり得る事態だったという見立てだ。

AIエージェントのセキュリティリスクを研究する米ニューヨークの独立研究機関AI Now Instituteの主任研究科学者、ボヤン・ミラノフ氏は「AIのハッキング能力は、AIが突然制御不能になって生じたものではなく、私たちが意図的に開発してきたものだ」と指摘した。そのうえで「AI企業は数年にわたり学習データを積極的に収集し、モデルを訓練し、サイバー攻撃能力を高度化してきた」と述べた。

FTは、最新のAIモデルについて、与えられた目標を達成するため、具体的な指示がなくても利用可能な手段を総動員するよう設計されていると説明する。AIの行動を本質的に予測しにくい理由はそこにあるという。人間の意図や道徳的基準の理解が不十分な計算機システムでは、強力なサイバー防御者と危険なハッカーの境界が次第に曖昧になっているとも伝えた。

AI企業が、人間の認知能力を上回る汎用人工知能（AGI）の開発競争を加速させるなか、AIによるサイバー攻撃を巡るリスクも拡大している。ただ、こうした脅威を現時点で封じ込めるのは容易ではない見通しだ。

AIの推論力や問題解決能力が高まるにつれ、コード生成能力も大きく向上した。FTによると、AIはソフトウェアのバグを見つけて修正方法を学ぶだけでなく、バグの悪用にまで踏み込むようになっている。高度なコーディング能力が、別の側面では高度なハッキング能力として現れ得るというわけだ。

カリフォルニア大学バークレー校のコンピュータ科学教授で、Metaの超知能研究所でAI研究責任者を務めるドーン・ソング氏は「コーディング能力とサイバー能力は表裏一体だ。コーディング能力の発展とともに、サイバー攻撃能力も向上した」と述べた。「これほどの速さでAIがこの水準に達するとは、多くの人が予想していなかった」とも語った。

OpenAIのグレッグ・ブロックマン社長は最近、同社ブログで「Hugging Faceの件は、私たちがAIモデルの実際のサイバー攻撃能力を過小評価していたことを示した」と説明した。そのうえで「これまで進めてきた安全性研究と社内セキュリティ対策を、さらに急ぐ必要がある」と述べた。

それでもセキュリティ専門家は、短期的にはAIシステムがサイバー攻撃の規模と速度を押し上げるとみている。パッチが配布されるまでの間、世界のITシステムに潜在的な混乱が生じる可能性があるとの見方だ。

実際、AIエージェントが国家を標的にしたとされる初の事例も浮上した。FTによると、中国と関連するハッカーが最大8体の自律型AIエージェントを同時に投入し、台湾政府を狙ったという。