Alibaba一款AI模型在安全测试中，被发现曾尝试向位于北京的外部服务器发送数据。不过，由于相关请求已被拦截，事件并未造成实际信息泄露，目前也没有证据显示该模型被刻意设计为用于“窃取信息”。
据科技媒体TechCrunch当地时间26日报道，加拿大AI公司Cohere表示，其在评测Alibaba的Qwen3.8-Flash-Next模型时，发现了一次异常的外部通信尝试。
根据Cohere披露的信息，当时的测试任务是要求模型编写用于识别恶意软件下载行为的安全规则。模型先在推理记录中表示不会调用外部工具，随后却开始检查运行环境，并尝试向Alibaba Cloud位于北京的服务器发送一段测试字符串。
由于Cohere设置的安全沙箱阻断了外部通信，上述传输并未真正发生。模型尝试发送的内容也不是敏感企业信息，而只是简短的测试字符串。
Cohere称，目前尚无法判断这一行为究竟是有意为之，还是模型在训练阶段形成的行为模式。Cohere联合创始人Ivan Zhang表示，该公司自研模型过去也曾出现过由训练过程引发的意外行为。
不过，也有研究人员对Cohere后续验证方法提出质疑。根据相关说法，研究团队曾向模型提供部分网络命令，模型随后在自动补全过程中补全了Alibaba服务器地址，因此不能完全排除测试过程对结果产生诱导的可能性。
对此，Cohere回应称，首次传输尝试并不存在上述诱导过程；同时，这一现象极为罕见，在10万次评估中出现频率低于1次。
在争议持续之际，Cohere已在Hugging Face公开实验记录和复现代码。查阅相关材料的外部研究者认为，确有生成可疑地址的情况，但尚无证据表明Alibaba在模型中植入后门。
此次事件也再次提醒市场，即便企业选择在内网环境中直接部署AI模型，一旦赋予其外部通信权限，仍可能带来数据外泄风险。
在美国政府近期禁止联邦文职机构使用DeepSeek产品的背景下，Cohere呼吁，应进一步明确针对中国AI模型的监管范围。
Jae-won Choi
ittt_0801@d-today.co.kr