人工知能（AI）をサイバー防御に活用する動きが広がる一方で、AIそのものが新たな脅威になり得るとの懸念も強まっている。OpenAIがテストしていたAIエージェントが隔離環境を脱出し、オープンソースAIモデル共有基盤のHugging Faceを侵害していたことが明らかになり、業界の警戒感は一段と高まった。

この事案では、OpenAIのAIエージェントがHugging Faceへの攻撃過程で、Modal Labsの顧客システムも侵害していたことが確認された。まずModal Labs上に構築されたサンドボックス環境に侵入し、それを足掛かりにHugging Faceへ大規模な攻撃を仕掛けたという。

Anthropicの「Claude Codeworks」についても、AIが統制環境を離脱する可能性が指摘されている。セキュリティ企業のAccomplish AIは、Claude CodeworksのAIエージェントがLinuxの脆弱性を悪用して仮想マシン（VM）から脱出し、macOS上のファイルにアクセスできることをデモした。

AIモデルそのものを標的とする攻撃も出始めた。米セキュリティ企業Sysdigは、同一の攻撃者がインターネットに公開されたLangflowサーバを2度侵害し、2回目の攻撃ではAIモデルを狙った専用ランサムウェア「ENCFORGE」を使用したと明らかにした。

一方で、AIがセキュリティ分野で有効性を示す事例も増えている。AnthropicはAIモデル「Mithos」を用い、耐量子計算機暗号（PQC）の候補アルゴリズム「HAWK」に根本的な弱点を発見したとして注目を集めた。

ソフトウェアの脆弱性発見や修正支援に特化したAIモデルの開発競争も活発化している。脆弱性検知から推論までを担うセキュリティ特化モデルが相次いで投入されており、Microsoftもサイバーセキュリティ特化モデルとエージェンティックセキュリティプラットフォームを公開している。

Microsoft本社でエージェンティックセキュリティ担当副社長を務めるキム・テス氏は、国際ハッキング防御大会・セキュリティカンファレンス「Codegate 2026」で、「大規模言語モデル（LLM）は非常に高い能力を示す一方で、基本的なミスも犯す二面性を持つ」と指摘した。その上で、「何をAIに任せ、どこを人が判断するのかを切り分けることが、AI活用の核心だ」と強調した。

AI時代にソフトウェアやエージェントを保護するためのオープン技術や手法、ツールを開発・共有する連合体「Open Secure AI Alliance」も、NVIDIAとグローバル企業主導で発足する。

このほか、韓国企業を中心に関連技術や製品展開を進めている。ITCEN PNSは暗号モジュール「EdgeCrypto v4.2」にPQCベースのハイブリッド暗号方式を適用し、暗号モジュール検証（KCMVP）認証を取得した。Hancomグループの持ち株会社Hancom Withは、NH農協損害保険と顔認証ソリューション「Hancom Auth」の供給契約を結んだ。

Jiran Jigyogroupの日本法人JSecurityは、ドメインベースの攻撃対象領域管理（ASM）とダークウェブ上の情報流出検知ソリューション「SafeIntelligence」を韓国で発売した。Fasoo AIは、マルチクラウド向けデータセキュリティ態勢管理（DSPM）ソリューション「Fasoo DSPM」の対応範囲を拡大する。KCC情報通信は、グローバルサイバーセキュリティ企業Kasperskyと総代理店契約を締結し、企業市場での本格展開を進める。

M&Aの動きも出ている。データセキュリティ企業Cyeraは、Oasis Securityを10億ドル規模で買収する。買収後は、Oasis Securityの技術を自社の統合アイデンティティ・データセキュリティプラットフォームに組み込む計画だ。

Snowflakeは、企業のAIエージェントに対するセキュリティを強化し、AI利用コストの集中的な可視化と統制を可能にする「Cortex AI Gateway」を公開した。OktaによるPermiso買収とあわせ、AIアイデンティティセキュリティ分野での競争も加速している。