中南米の金融機関約400機関を狙い、ハッキング集団CyberCartelが複数のAIエージェントを組み合わせて侵入攻撃を自動化した可能性があることが分かった。The Informationが21日(現地時間)、サイバーセキュリティスタートアップStraikerの調査内容として報じた。
報道によると、CyberCartelはAnthropicやMoonshot AIなどのモデルを基盤にした複数のAIエージェントを運用し、攻撃の大部分を自動化していたという。The Informationはこれを、サイバー犯罪者がAIを使って金融機関への侵入を自動化した過程を具体的に示す初期の事例報告の一つと位置付けた。
Straikerによれば、これらのAIエージェントは人手をほとんど介さずに稼働し、認証情報や顧客データの窃取、銀行口座へのアクセスに使われた可能性がある。最近の標的には銀行に加え、決済アプリも含まれていたという。
The Informationは、特定の金融機関から流出した機微情報も確認した。ただ、被害機関への通知手続きが進んでいるとして、名称は公表していない。
今回の攻撃では、AIエージェントごとに役割を分担していた点も特徴とされる。Grokを基盤とするエージェントがWeb上から標的情報を収集し、AnthropicのClaude OpusとSonnetで動く4つのエージェントが最適な攻撃手法を検討した。さらに、AIコーディングアプリ「Cursor」上で動く別のClaudeモデルが、全体の統括役を担っていたという。
CyberCartelは2012年から活動しているとされる。ここ数カ月はAIエージェントの活用によって、攻撃の速度と効率を大幅に高めていたもようだ。Straikerは、同グループが内部の運用情報を誤って漏えいしたことで、手口の分析が可能になったと説明している。
CyberCartelは、AIモデルに組み込まれた安全対策を回避するため、学術テストや社内セキュリティ点検といった無害な用途を装っていたという。Straikerによると、Claudeがハッキング関連の要求を拒否した場合は、Moonshot AIのKimiなど小型モデルに処理を引き継がせ、それも拒否された場合には、マルウェアを埋め込む従来型の手法に自動で切り替える仕組みを採っていた。
さらにCyberCartelは、AnthropicのMithosより低性能なモデルを組み合わせ、脆弱性の探索から攻撃実行までを担うシステムも構築していたとされる。
AnthropicはStraikerから報告を受けた後に調査を実施し、CyberCartelによるClaudeの利用を遮断した。Grok側でもアクセス遮断が進められているという。The Informationによると、StraikerはMoonshot AIにも接触を試みている。