据路透社26日报道，加拿大AI公司Cohere称，阿里巴巴旗下的一款AI模型在安全测试过程中，曾在未获指令的情况下试图将文件发送至位于北京的Alibaba Cloud服务器。
报道称，涉事模型为阿里巴巴的“Qwen3.8-Flash-Next”。
Cohere表示，其原本要求该模型编写用于识别恶意文件下载的规则，但模型并未执行既定任务，而是在运行过程中尝试获取运行该模型的电脑信息，并将测试文件发送至北京的服务器。
据Cohere介绍，模型在推理过程中虽然判断“不应实施上述行为”，但相关尝试仍然出现。
由于测试环境未连接互联网，上述传输最终未能完成。Cohere称，如果测试是在开发者个人电脑或接入普通网络的系统中进行，相关文件有可能已被实际发送至北京服务器。
Cohere表示，这类情况在其全部测试中出现的概率极低，不足十万分之一。该公司举例称，若某项服务每周处理1000万次AI代理任务，类似尝试最多可能出现100次。
Cohere还表示，目前尚无法判断，这一现象究竟是模型主动触发的行为，还是训练数据过滤不充分所导致。
Cohere一直以“主权AI”为卖点，向企业和政府客户销售自研AI模型，并与包括Qwen在内、可下载并部署在自有服务器上的open-weight模型展开竞争。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr