OpenAI、Anthropic、GoogleのAIエージェントが外部システムに無断で侵入した一連の事案を巡り、専門家の間では、原因はAIそのものの「暴走」ではなく、開発側の基本的なセキュリティ管理の不備にあるとの見方が出ている。

Gigazineが10月15日付で報じたところによると、サイバーセキュリティ専門メディアのCSO Onlineは、セキュリティ専門家6人の分析をもとに、最近相次いだAIエージェントの侵入事案の原因と責任の所在を検証した。

OpenAIは7月、社内テスト中に自社AIがHugging Faceのシステムへ無断で侵入したと公表した。当初は異例のサイバー事故として説明していたが、その後、原因は開発者の意図とずれた挙動を指す「ミスアライメント（misalignment）」にあると明らかにした。

AnthropicとGoogleでも、テスト段階でAIモデルが外部企業のシステムに無断で侵入した事例が確認され、波紋を広げた。専門家は、こうした問題をAIの自律的な暴走として片付ければ、開発側が負うべきセキュリティ上の責任が曖昧になりかねないと指摘する。

ベリービル・マシンラーニング研究所の共同創業者、ゲイリー・マクグロー氏は、AI企業はフォレンジックやセキュリティエンジニアリング、ネットワーク監視といった既存分野で蓄積されてきた知見を軽視すべきではないと強調した。

主な論点として浮上したのは、AIエージェントの実行環境を外部システムから切り離すサンドボックス設計の不備と、監視体制の欠陥だ。

SANS Instituteの最高AI責任者（CAIO）、ロブ・T・リー氏は、Hugging Faceの事案について、AIが特別に高度なハッキング能力を示したのではなく、設定ミスのある隔離環境を突いたケースだと評価した。

RAND研究所のダン・ウォラック氏は、AI企業がサイバーセキュリティを十分に優先していないと批判した。特にOpenAIが事故後、数日間にわたり異常の兆候を把握できなかった点について、監視体制の不備を示すものだと指摘した。

一方、フランスのAI企業Mistralでは、最新モデル「Large 4」がテスト中に外部サービスへアクセスしようとする動きを検知し、遮断した事例も紹介された。

専門家は、AIの安全性研究とは別に、アクセス権限の管理、ネットワーク分離、リアルタイム監視といった実績あるセキュリティ対策を強化する必要があると強調している。