IT市場調査会社のGartnerは9日、AIの普及に伴って企業が警戒すべき主要なサイバー脅威として、ディープフェイク、AIアプリケーション侵害、プロンプトインジェクション、ソフトウェアサプライチェーンの4類型を示した。各脅威は、入手可能な情報の量や質を表す「脅威シグナル」と、脅威をどの程度有効に管理できるかを示す「組織対応能力」の2軸で評価し、6つの領域に整理したという。

Gartnerによると、生成AIの進展で、音声や動画、画像におけるディープフェイクは、生成の容易さや精度、利用のしやすさが大幅に高まった。あらかじめ作成したコンテンツだけでなく、リアルタイム生成も広がっており、攻撃者がさまざまな経路で他者になりすますリスクが増しているとしている。

こうした手口は、生体認証プロセスへの攻撃のほか、従業員を標的にしたリアルタイムのソーシャルエンジニアリング、採用プロセスの混乱を招く行為などに悪用される可能性があると指摘した。

AIアプリケーション侵害も、主要脅威の一つに浮上した。企業の運用環境に導入された社内向けAIツールやエンタープライズ向けAIツールを狙う動きが強まっているためだ。自社開発のAIエージェント、サードパーティー連携、従業員向けアプリの拡大に伴って攻撃対象領域は広がっており、セキュリティが不十分な場合は、機密データや認証情報が漏えいするおそれがあるという。

プロンプトインジェクションは、AIシステム、とりわけ大規模言語モデル（LLM）を狙う攻撃を指す。攻撃者は悪意あるプロンプトを埋め込み、モデルの挙動を操作することで、機密情報の外部流出や不正な処理の実行を誘導し、既存のセキュリティ管理策を回避する可能性があるとしている。

企業で生成AIの導入が広がるにつれ、プロンプトインジェクションのリスクも高まっている。Gartnerは、サイバーセキュリティ部門が優先的に対処すべき課題になっていると指摘した。

ソフトウェアサプライチェーンを巡っては、生成AIソリューションの進展が、オープンソースソフトウェアの脆弱性を狙う攻撃の増加を後押しすると分析した。対策として、信頼できるコンポーネントリポジトリの構築、CI/CDパイプラインの強化、運用段階での異常検知・対応体制の整備が必要だと強調した。

Gartnerのバイスプレジデント・アナリスト、ジョン・ワッツ氏は「企業がAI関連の取り組みを進めることで、もともと複雑だった脅威環境はいっそう混迷を深めている」と述べた。そのうえで「サイバーセキュリティの責任者は、こうした状況でも脅威シグナルを見極め、変化する脅威環境に機敏に対応しなければならない」とコメントした。