写真=Shutterstock

Googleが、攻撃者が大規模言語モデル(LLM)を使い、脆弱性の発見から攻撃実行までを人の介入なしに自動化した事例を初めて確認した。SiliconANGLEが16日、報じた。

Google Threat Intelligence Group(GTIG)は四半期報告書で、「exploit_agent」と呼ぶフレームワークを公表した。

このフレームワークは、セキュリティ設定が不十分なままインターネット上に公開されていたテスト用サーバー上で見つかった。複数のLLMと連携し、Webアプリケーションのコードをパッチ適用の前後で継続的に比較して脆弱性を特定し、攻撃コードの生成から実行までを自動で進める仕組みだという。

攻撃者はこの仕組みを使い、フランスのメディア、エンターテインメント、教育関連のWebサイトを標的にしていた。

テスト用サーバーからは、被害者データに加え、Webシェルのインストール用スクリプトも見つかった。

GTIGによると、2カ月前の段階では、完全自律型攻撃の実例は確認していなかった。しかし現在は状況が変わり、攻撃者は新たな脆弱性、いわゆるゼロデイを探すよりも、すでに公開されている脆弱性をLLMで悪用する方が効率的だと判断した可能性があるという。

脆弱性が公開されてから攻撃コードが完成するまでの時間も、大幅に短縮されたとしている。

Googleはまた、国家支援組織や民間企業、政治ネットワークが世論操作にもAIを日常的に活用していると説明した。あわせて、LLMjackingも広がっており、攻撃者の新たな収益源になる一方、被害を受けた組織には大きなコスト負担が生じていると指摘した。

GTIGは今後3カ月以内に、人の関与がほとんどない状態で複数のAIエージェントが実行する比較的単純な攻撃が現れると予測している。さらに6カ月以内には、より高度な完全自律型攻撃が登場する可能性が高いと見通している。

キーワード

#Google #GTIG #LLM #AI攻撃 #脆弱性 #ゼロデイ脆弱性 #LLMjacking
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.