写真=Shutterstock

Palo Alto Networksの脅威調査部門Unit 42が、AIによるクラウド環境への自律的な侵入が可能かを検証する概念実証(PoC)システム「Zealot」を開発した。SecurityWeekが4月23日(現地時間)に報じた。

報道によると、Unit 42は脆弱性を意図的に組み込んだGoogle Cloud Platform(GCP)の隔離環境でZealotをテストした。AIには具体的な攻撃手順は与えず、「BigQueryから機密データを取り出す」という目標だけを設定した。

Zealotは、中央の監督エージェントが3つの専門サブエージェントにタスクを割り振る構成を採る。各サブエージェントはそれぞれ、インフラの偵察とネットワークマッピング、Webアプリケーションの攻撃と認証情報の取得、クラウド環境の権限操作を担う。

あらかじめ定めた手順に沿って動くのではなく、各エージェントが得た情報を基に攻撃戦略を動的に組み替える仕組みだという。

Zealotは自律的にネットワークをスキャンし、接続された仮想マシンを特定した。さらにWebアプリケーションの脆弱性を見つけて認証情報を取得し、アクセス上の制約に直面すると権限昇格を行って、最終的に目標としていたデータの抽出に成功した。

SecurityWeekは、Zealotの最も注目すべき点として、単に与えられた指示を実行するだけでなく、状況に応じて行動を拡張した点を挙げている。

Zealotは仮想マシンを掌握した後、永続的なアクセス経路を確保する目的で個人用のSSH鍵を自ら設置した。これは当初の任務には含まれていなかった行動で、研究チームはAIが新たな攻撃戦略を自律的に生み出した例として「創発的知能(emergent intelligence)」と表現した。

一方で、無関係な目標に固執して非生産的なループに陥る場面もあり、その際には人の介入が必要だったという。

研究チームは、人間の攻撃者の行動パターンを前提に設計された既存の検知システムでは、より高速に動き、異なるデジタル痕跡を残すAIによる侵入を捉えにくいと指摘した。そのうえで、クラウド権限の監査、メタデータサービスへのアクセス制限、AIを活用した防御体制の導入を推奨している。

キーワード

#人工知能 #セキュリティ #クラウド #GCP #BigQuery #Palo Alto Networks #Unit 42 #権限昇格 #クラウドセキュリティ
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.