OpenAIやAnthropicに続き、Googleでもテスト中のAIモデルが制御を外れ、外部システムへの侵入を試みる事案が確認された。OpenAIのAIエージェントを巡っては、2026年5～6月に大学や政府のWebサイトへの侵入を試みたケースも新たに明らかになっており、AIの自律的な行動がセキュリティ上の新たなリスクとして浮上している。

問題となっているのは、単純なオンライン上のデータ収集プロセスの中で、情報取得を目的に外部システムへの侵入まで試みた点だ。AIモデルの行動範囲や権限管理をどう制御するかが、開発企業にとって大きな課題になりつつある。

こうした中、AIベースのサイバーセキュリティ企業Hacktron AIの研究チームは、Anthropicの「Claude」を使ってOpenAI社員のChatGPTアカウントにアクセスできる可能性を示したとして注目を集めた。AIモデルそのものだけでなく、AIを使った攻撃や検証の高度化も進んでいる。

政府が推進する「サイバーセキュリティ特化AIファウンデーションモデル」も、こうした流れを背景に進められている。開発目標はグローバルの最先端級性能で、Naver CloudのHyperCLOVA XとLG AI ResearchのEXAONEをそれぞれ防御用と攻撃用に特化させ、両者の対応結果を学習に反映する形で性能を高める計画だ。

企業側でも、AI時代を見据えたセキュリティ体制の見直しが進む。Naver Cloudは、データベースとサーバーへのアクセスを統制し、作業履歴を自動記録・管理する統合セキュリティサービス「DSAC（DB & Server Access Control）」の提供を開始した。

MegazoneCloudはCoway向けに、Wizのソリューションを基盤としたマルチクラウドセキュリティ体制を構築した。Crinityは、個人情報保護ソリューションを手がけるL7 Securityと、公的機関や企業の個人情報流出防止とメールセキュリティ対応で協力するための覚書（MOU）を締結した。Tvingもゼロトラストの原則に基づき、アクセス管理や権限管理、インシデント対応を含むセキュリティ体制の強化を進める。

Private AIは、ゼロトラストセキュリティ企業Private Technologyから、AIガバナンスと統制を前面に出す企業へと事業の軸足を移している。同社は、単にAIブームに合わせて社名を変えたのではなく、主力技術をAI分野へ自然に拡張した結果だと強調する。専務は「主力技術はAIガバナンスとの親和性が高く、そこからAIへ拡張した。AIガバナンスは構想段階ではなく、すでに製品として実装している。来年は売上高に占めるAI関連比率を半分超に引き上げたい」と述べた。

海外大手も対応を急ぐ。Palo Alto NetworksはGoogle Cloudとの連携を強化し、自律型AIエージェントの実行時の挙動を点検できるようにする。Microsoftは統合セキュリティ製品「Microsoft Defender」に「Integrated Security Operations Center（ISOC）」を組み込み、AIエージェント中心の運用体制への再編を進める。従来Microsoft Sentinelで提供していたSIEM機能をDefender側で扱うのが柱だ。

ロブ・レパーツ副社長（Microsoft脅威保護部門）は、「以前はチーム全体で担っていた作業を、今では運用担当者1人とエージェントフレームワークで処理している」と説明したうえで、「保護と運用が分断され、分析担当者が複数のツールを行き来しながら事象を突き合わせる体制では、防御側が後手に回る」と指摘した。

Oktaは、AIエージェントのセキュリティ統制を強化するランタイム実行機能と、強化版キルスイッチを公開した。Darktraceは、企業内でのAIツールやAIエージェントの利用状況を点検するセキュリティ製品「Secure AI」を正式リリースした。Cloudflareは、AIクローリングに適用する運用者指定の仕組みを打ち出し、検索結果への露出を維持しながらAI学習のみを拒否できる「Disallow AI Training」機能も提供する。

資金調達の面でもAIセキュリティ分野への期待は大きい。サイバーセキュリティスタートアップのCyeraは、企業価値が120億ドル超と評価される中、Goldman Sachsから4億ドルの追加出資を受けた。調達資金はAIセキュリティ機能の拡充に加え、連邦政府向け事業と海外市場の開拓に充てる計画だ。

一方、実務レベルでの課題も明らかになっている。レニー・ゼルトサー氏とスーニル・ユー氏は、セキュリティ実務者約300人を対象とした調査結果をまとめた「AI Security Decisions Report」を公表した。AIの活用が広がる一方で、責任の所在や運用体制、統制のあり方をどう定めるかが、現場の大きなテーマになっている。