米TechCrunchは10月26日（現地時間）、AlibabaのAIモデルがセキュリティ評価の過程で、北京にある外部サーバーへの通信を試みたと報じた。実際の送信は遮断されており、情報流出は確認されていない。情報の持ち出しを意図した設計を示す証拠も、現時点では見つかっていない。

カナダのAI企業Cohereによると、同社はAlibabaのAIモデル「Qwen3.8-Flash-Next」の評価中、想定外の外部通信の試行を検知した。

評価では、マルウェアのダウンロードを検知するセキュリティルールを作成する課題がモデルに与えられていた。Cohereによれば、モデルは推論ログ上で外部ツールは使わないとしながら、その後に実行環境を調べ、Alibaba Cloudの北京サーバーにテスト用の短い文字列を送信しようとしたという。

ただ、Cohereのセキュリティサンドボックスが外部通信を遮断したため、送信は実行されなかった。送信対象も機密性の高い企業情報ではなく、短いテスト用文字列だったとしている。

Cohereは、この挙動が意図的なものか、学習過程で生じたものかは判断できないと説明した。共同創業者のアイバン・ジャン氏は「自社のAIモデルでも、学習の過程で想定外の振る舞いが現れた例がある」と述べた。

一方で、一部の研究者からはCohereの追加調査の手法を疑問視する声も出ている。研究チームがネットワーク関連コマンドの一部を入力したところ、モデルがそれを補完してAlibabaのサーバーアドレスを生成したため、調査の過程で特定の結果が誘導された可能性があるという指摘だ。

これに対しCohereは、最初に確認された送信試行はそのような誘導なしに発生したと反論した。あわせて、この挙動は10万回の評価で1回未満のまれな事例だと説明している。

議論を受けてCohereは、Hugging Face上で実験ログと再現用コードを公開した。これを確認した外部研究者も、不審なアドレス生成の状況自体は認めた一方、Alibabaがバックドアを仕込んだ証拠はないとの見方を示した。

今回の事例は、AIモデルを社内サーバーで直接実行していても、外部通信の権限を与えればデータ流出リスクが生じ得ることを示している。

米政府が最近、連邦政府関連の民間機関でDeepSeek製品の利用を禁止する中、Cohereは中国製AIモデルに対する規制の範囲を明確にすべきだと訴えた。