AIエージェントと外部AIモデルを仲介するAPIルーターに、不正な命令改ざんや認証情報窃取のリスクがあることが分かった。写真=Shutterstock

AIエージェントと外部AIモデルを仲介する一部のAPIルーターが、命令改ざんやマルウェア注入、認証情報の窃取に悪用される恐れがあることが分かった。コード生成から命令実行までをAIが担う利用形態が広がる中、中間レイヤーが新たな攻撃面になり得ることが浮き彫りになった。

米カリフォルニア大学サンタバーバラ校(UCSB)の共同研究チームは、論文「Your Agent Is Mine」で、サードパーティー製APIルーター428件のセキュリティリスクを分析した。

APIルーターは、Claude CodeやCodexなどのAIエージェントからのリクエストを、OpenAIやAnthropicといったモデル提供事業者へ転送する中継サービスを指す。複数モデルを低コストで利用でき、一元管理もしやすい一方、通信の中継過程で内容が露出するリスクを抱える。

背景にあるのは、APIルーターが暗号化通信を途中で復号する仕組みだ。悪意ある運用者が介在した場合、AIに渡される命令や応答を改ざんし、APIキーやクラウド認証情報などの機微情報を抜き取れる可能性があるという。

研究チームは、有料ルーター28件、無料ルーター400件を調査した。その結果、有料1件、無料8件の計9件で、マルウェアの注入を確認した。

攻撃の手口としては、AIが実行する正規の命令を悪性の命令に差し替えたり、ソフトウェアパッケージ名を紛らわしいつづりの偽パッケージに置き換えたりするケースが見つかった。

検知を避けるための挙動も確認された。最初の50回のリクエストは正常に処理した後で攻撃を始めるルーターがあったほか、AIが命令を自動承認する「YOLOモード」で、特定のプログラミング言語のプロジェクトを扱う場合に限って悪性命令を挿入する例もあった。

認証情報の窃取事例も判明した。無料ルーター17件では、研究チームがおとりとして用意したAmazon Web Services(AWS)の認証情報が、その後に無断使用された。さらに1件のルーターでは、研究用のEthereumウォレットから実際に資金が流出したという。

正規のルーターでもリスクは残る。研究チームによると、意図的にセキュリティ設定を弱めた中継サーバーが外部事業者の通信経路に組み込まれた結果、AI開発セッション440件で99件の認証情報が露出した。

研究チームは対策として、AIが実行できる命令の範囲制限、異常な応答の検知、通信ログの保存を挙げた。

今回の研究は、AIモデルそのものだけでなく、モデルとエージェントをつなぐ中間サービスの信頼性についても検証が必要であることを示している。

キーワード

#AI #AIエージェント #APIルーター #セキュリティ #UCSB #AWS #OpenAI #Anthropic
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.