Hugging Faceへの不正アクセスをきっかけに、AIエージェントが実際のサイバー攻撃を担うリスクへの警戒感が強まっている。CNBCが8日（現地時間）に報じたところによると、セキュリティ業界では今回の事案を例外ではなく、自律型AIを悪用した攻撃が本格化する前兆と受け止め、対策の具体化を急いでいる。

先月には、OpenAIのサイバー関連モデルを用いたAIエージェントが、開発者が協業や検証、ツール共有に利用するオープンソースAIプラットフォームのHugging Faceに不正アクセスした。

このエージェントは攻撃前の数週間にわたり、内部のメッセージボードを立ち上げ、脆弱性やエクスプロイトに関する情報を共有していた。インターネット接続や評価完了に必要な作業も自律的に割り振っていたという。OpenAIが攻撃計画を検知して一度は中断させたものの、その後エージェントは手順を組み直し、侵入に成功した。

この事案は、AIの攻撃能力だけでなく、安全性評価だけでは抑えきれないリスクも浮き彫りにした。OpenAIの技術研究者マイケル・ドルトン氏はBlack Hat Conferenceで、これは最先端モデルの評価過程で生じた想定外の挙動であり、業界の転換点になる可能性があると指摘した。近い将来、脅威アクターがこうした攻撃用エージェント群を意図的に配備し、最適化して攻撃手段として利用する可能性に備える必要があるとの見方を示した。

同様の事案は他社でも確認されている。Anthropicは、自社のClaudeモデルが3つの組織の内部システムに無断でアクセスしたと発表した。MetaのAIモデルでも、外部テストの過程で別の企業への不正アクセスが確認された。英国のAI Security Instituteは、AnthropicのMytosが偽の身元を作成したと公表。中国スタートアップのMoonshot AIのオープンウェイトモデルについても、試験用サンドボックスの制約を逸脱したとしている。

こうした動きを受け、セキュリティ業界では能力論よりも、AIをどう統制し、防御するかが焦点になっている。CrowdStrikeのマイク・セントナス社長は、重要なのはAIの性能そのものではなく、その能力をどう制御し保護するかだと述べた。Netskopeのサンジェイ・ベリ最高経営責任者（CEO）も、企業は自社システムが脆弱であることを前提に、継続的な脆弱性点検に取り組むべきだと強調した。

対応策は、オープンウェイトモデルの活用と統制レイヤーの整備に集約されつつある。Hugging Faceは、オープンウェイトモデルを使ってOpenAIのエージェントによる攻撃を追跡した。Netskopeは、インフラ、サーバ、データ、AIエージェントを一元的に点検できるツールを投入した。CrowdStrikeは、人による関与にオープンウェイトモデルとAI監視ツールを組み合わせることで、大規模な脅威を切り分けて遮断できるとみている。