企業がAI活用による事業変革を急ぐなか、サイバー攻撃の現場でもAI導入が急速に広がっている。攻撃者は従来のツール作成やインフラ構築にとどまらず、侵入後の偵察や横展開、認証情報の改変にまでAIを使い始めており、攻撃の速度と規模が拡大している。

当初、ハッカーによるAI活用は、ランサムウェア攻撃に必要なツールやインフラの構築が中心だった。だが最近は、侵入済みの企業ネットワークを探索し、他アカウントへの展開手法を探る段階にまで広がっている。

Microsoftによると、中国政府との関連が指摘されるハッキング組織「Storm-0940」は、中国のエンジニアが開発したオープンソースのAI侵入テストツール「Artex」を使い、複数業種にまたがる世界の数百組織への攻撃を自動化した。

ハッキンググループCyberCartelも、Anthropic、SpaceX、中国のMoonshot AIのモデルを基盤とする複数のAIエージェントを活用し、中南米の約400の金融機関を狙った攻撃を自動化したという。AIコーディングツールのオープンコードを標的にし、利用者のAIアカウントに不正課金する事例も確認されている。

米紙Wall Street Journal（WSJ）によると、セキュリティコンサルティング会社LMG Securityの創業者シェリー・ダビドフ氏は、「ハッカーはAIを使って標的に関する事前情報を集め、盗み出した大量データを分析し、ネットワーク侵入に悪用可能なコードの生成にも活用している」と指摘した。

ダビドフ氏は、NetDiligenceなど情報漏えい対応サービス企業や業界専門家を対象に、実際のサイバー攻撃で使われた手法を四半期ごとに調査してきた。それによると、「1年前はAI活用の痕跡を見つけたとの回答はほとんどなかったが、直近3カ月ではAI活用が日常的に確認されるようになった」という。

Microsoftは、中国政府と関連するハッキング組織を扱った報告書で、一部環境ではAIエージェントが認証段階を突破した後、偵察や持続的アクセスの確保を進め、アプリケーション認証情報やアイデンティティー、グループ、特権ロールの変更にまで関与したと説明した。攻撃者がアプリケーション認証情報をあらかじめ改変し、被害企業が問題のアプリケーションを復旧した後もアクセスを維持できたケースもあったという。

最近の攻撃増加の背景に、攻撃側のAI活用高度化があるとみる向きもある。

AIを使ったサイバー攻撃は、速度と規模の両面で急拡大しており、インシデント対応を手掛ける企業でも対処が難しくなっているとの指摘が出ている。WSJは、PHPの脆弱性など、AIによってインターネット基盤を揺るがしかねない重大な弱点の公開が相次ぎ、業界内では今月を「Black October」と呼ぶ動きもあると報じた。

中国やロシアの支援を受けるハッカーだけでなく、データ窃取やランサムウェア設置を狙う犯罪者もAIツールの利用を始めており、今後さらに大規模な被害が続くとの見方が強まっている。

サイバーセキュリティ企業Volexityのスティーブン・アデアCEOは、「今後数週間から数カ月のうちに、ハッキング被害を公表する事例が大規模に噴出するだろう」と述べた。

CrowdStrikeのアダム・マイヤーズ上級副社長は、「エージェント型AIを使う攻撃者が爆発的に増えている」とした上で、「高度に熟練した攻撃者だけでなく、技術レベルが極めて低い攻撃者も活用している」と語った。

テック企業の経営陣も「脆弱性の津波」に警鐘を鳴らしている。英Guardianによると、OpenAIのサム・アルトマンCEOは「もはや、すべてのバグにパッチを当てられるとは思わない」と発言した。Anthropicのジェイソン・クリントン副最高情報セキュリティ責任者は、ソーシャルメディアX（旧Twitter）で「今後数カ月で『脆弱性の津波』が来る。中核インフラにパッチを適用する時間が足りない」と警告し、Salesforceのマーク・ベニオフCEOもこれに同調して「非常事態」と表現した。

Cloudflareのマシュー・プリンスCEOは、「セキュリティ業界は、AIが見つけ出す欠陥への対応に追いつけていない」と指摘したうえで、「打つ手がないように感じるかもしれない。今後2年は、脆弱性を見つけ続ける新たなツールの登場で、極めて危うい時期になる」と述べた。米The Atlanticは、CrowdStrikeが2時間に1件のペースで新たなAIベースのハッキング組織を確認していると伝えた。