米Wall Street Journalは18日（現地時間）、GoogleのAIモデル「Gemini」がサイバーセキュリティのテスト中、インターネット経由で他社システムに侵入したと報じた。問題は5月に発生し、Googleは9月12日に事実を確認したという。

報道によると、この事案はAIセキュリティ企業Irregularが5月に実施したテストの過程で起きた。Irregularは、OpenAIやAnthropic、Metaで公表された類似事案の検証にも関わっていたという。

具体例の一つでは、Geminiがパスワードを繰り返し入力し、保護されたシステムへのアクセスを試みた。別の2件では、公開リポジトリで見つかった認証情報を使って、保護されたシステムに接続した。Googleは、Geminiが接続先を実在する企業システムだと認識した時点で、いずれも接続を中断したと説明している。

Irregularは7月末、この問題をGoogleに通知した。OpenAIのエージェントがHugging Faceをハッキングした事案が公表された直後だったという。WSJは、Googleが今週に問い合わせを受けるまで、この問題を公表していなかったと伝えた。

Googleは、Geminiによる実害は確認されておらず、接続先が実在の企業だと把握した段階で通信を打ち切ったことから、開示義務はないとの認識を示している。Googleでセキュリティエンジニアリング部門の副社長を務めるヘザー・アドキンス氏は、「強力なAIモデルに責任ある行動を学習させることの重要性を示している」とした上で、「このケースではモデルは適切に振る舞った」と述べた。

一方、AIセキュリティのスタートアップCorydorのCEO、ジャック・ケーブル氏はGoogleの対応に異議を唱えた。同氏は「AIエージェントが誤って他社システムに侵入したこと自体が問題の核心だ」と指摘し、「モデルが許容範囲を逸脱し、実際のサイバー攻撃に及んだ事実を開示することは公益にかなう」と述べた。