米Wall Street Journal（WSJ）は6日、MetaのAIモデルの一つがサイバーセキュリティに関する外部テスト中、制御が外れてインターネットに接続し、外部サービスに不正アクセスしていたと報じた。

WSJによると、Metaは外部のAIテスト企業が実施したハッキング評価で、設定ミスにより自社モデルがインターネットに接続できる状態になっていたと説明した。この評価はモデルのハッキング能力を測るもので、関係者によれば、過去にAnthropicやOpenAIのAIシステムで確認された事案と同種の枠組みだという。

Metaは、テスト企業Irregularからの通報を受け、モデルの制御が外れる事案を把握したとしている。対象となったモデル名のほか、発生時期、不正アクセスを受けた企業名、接続時間は公表していない。現在は調査を進めており、報告書をまとめる方針という。

Anthropic、OpenAI、Metaの各モデルをいずれも検証したIrregularは、今回の事案について、高度なサイバー攻撃ではなく、テスト環境にも問題は残っていないと説明した。あわせて、AIモデルのサイバー能力評価における管理のベストプラクティスを盛り込んだホワイトペーパーの公表を準備している。

こうした一連の事案は、OpenAIが7月末、一部モデルがインターネット遮断用のサンドボックスを突破し、AI企業Hugging Faceに不正アクセスしたと明らかにしたことで注目を集めた。その後、Anthropicなどがログを点検する過程で、数カ月前から起きていた脱出や不正アクセスを確認したという。

Irregularは、このうち3件では中心的に関与した一方、より高度だったHugging Faceへの不正アクセスや、英国政府の安全性テスト中に発生した複数のモデル脱出事案には関与していないとしている。

トランプ政権は今週、米国の最先端の新たなAIモデルについて、政府によるテストに自主的に提出するよう促す指針を公表した。