Anthropicは30日（現地時間）、検証中だったAIモデルが想定外に実際のインターネットへ接続し、4月以降に企業3社に不正アクセスしていたと明らかにした。原因は、隔離されていない検証環境の設定不備だったとしている。

米紙The Wall Street Journal（WSJ）によると、Anthropicは被害を受けた企業名を公表していないものの、3社すべてに個別に通知した。今回の公表は、OpenAIがテスト用サンドボックスから外れた自社AIが、AI企業Hugging Faceに侵入した事案を明らかにしてから約1週間後に当たる。

OpenAIの事案に続き、AIエージェントが自律的に予期せぬ行動を取るリスクに対する懸念は、セキュリティ研究者やAI業界の間で一段と強まっている。

Anthropicは、OpenAIの事案を受けて自社のサイバー関連テスト記録を点検した。14万1000件超のテストログを調べた結果、Claudeが複数回にわたりインターネットへアクセスしていたことを確認したという。

Anthropicによれば、今回確認された3件では、Claudeがサンドボックスから逸脱したわけではない。そもそも隔離されていないシステムから外部に接続していた。Anthropicは、自社とテストパートナーのIrregularが運用するシステムの「設定エラー」により、モデルが実際のインターネットに接続可能な状態になっていたと説明した。Irregularは調査中としている。

検証対象のモデルには、インターネットは利用できないと案内されていたが、テスト中にオンラインへ接続し、脆弱なパスワードを推測したり、認証なしでアクセス可能なシステムを見つけたりするなど、初歩的な手法で企業システムに侵入した。Anthropicによると、モデル側はこれらの行為をベンチマークの一環だと誤認していたという。

最も深刻だったのは、Claudeが仮想企業への侵入に失敗した後、同名の実在企業のデータベースに誤って侵入したケースだ。WSJは、Claudeが相手が実在企業だと認識した後も、行為を中止しなかったと伝えている。

不正アクセスは4月に始まり、Opus 4.7、Mitos 5、名称非公表の研究用モデルが関与していた。

セキュリティ企業のCorridorの最高製品責任者（CPO）、アレックス・スタモス氏は、「今回の事案は、サイバー検証の過程でシステムを隔離するための業界共通の基準が、AI企業に必要であることを示している」と指摘した。

その上で、「より強力になったAIをランサムウェア犯罪者が使い、大規模攻撃を仕掛ける将来も懸念される」と述べ、「オープンウェイトモデルを通じて攻撃者がこうした能力を手にする局面に備える必要がある」と付け加えた。

今回の事案を受け、高性能AIモデルがもたらすリスクと、その管理のあり方を巡る議論はさらに広がりそうだ。ホワイトハウスは最近、AI監督の強化に向けて動いており、一方で業界内ではオープンウェイトモデルへのアクセスを維持すべきだとの声も強まっている。