MicrosoftのAI機能「Microsoft 365 Copilot」で、情報流出につながる恐れのある複数の脆弱性が見つかった。The Informationが報じたもので、Microsoftも問題の存在を認めている。

AIの安全性を巡っては、OpenAIのAIエージェントがテスト中にHugging Faceをハッキングしたとされる事案以降、有力企業のAIツールでも脆弱性が相次いで指摘されている。今回、Microsoft 365 Copilotでも同様の問題が明らかになった。

The Informationによると、サティア・ナデラCEOはこれまで、CopilotはChatGPTやClaudeより安全だと説明してきた。しかし今年初めに見つかった複数の脆弱性について、セキュリティ企業2社の調査では、攻撃者がAIをだまして顧客の個人情報を持ち出せる可能性があったという。

セキュリティ企業の説明では、今回の欠陥により、攻撃者はCopilotを誘導し、対象企業のMicrosoft 365環境内にあるファイルやメールを外部に送信させることが可能だった。Rubrikは4月、この問題をMicrosoftに報告し、その後すぐに修正パッチが適用されたとしている。

この脆弱性は、Word文書に埋め込まれた悪意あるコードが、Copilotに取り込まれる過程で作動する仕組みだったという。文書が読み込まれると、そのコードがAIをだまし、顧客のMicrosoft 365やクラウドサーバー上のファイルを流出させる恐れがあった。Rubrikは、こうした攻撃がCopilotを利用する2000万超の企業ユーザーに及ぶ可能性があったと説明している。

一方、別の企業が発見した2件目の脆弱性については、修正済みかどうかは明らかになっていない。The Informationも詳細は公表していない。

Microsoftの広報担当者は、Copilotには複数のセキュリティ統制を組み込んでおり、脅威環境の変化に応じて保護機能を継続的に強化しているとコメントした。

一連の事例は、高度なAI開発を進める企業であっても、急速に進化するAIによって新たなリスクへの対応を迫られていることを示している。

Rubrikの研究員オリ・ラハブ氏は、Copilotにはインターネットから隔離されたサンドボックス環境があり、AIが生成したコードはそこでテストされると説明した。ただ、サンドボックスの欠陥によってAIがインターネットに接続し、攻撃者にファイルを送信できたという。

同じくRubrikの研究員ジョー・フラディク氏は、この攻撃は不審な挙動としてログに残らず、利用企業側で検知する手段がなかったと指摘した。これに対しMicrosoftの広報担当者は、Purviewでログを確認できるとしたものの、サンドボックス内の活動まで記録されるかどうかについては回答を避けた。