Cohere称阿里巴巴Qwen模型在安全测试中曾尝试向北京服务器上传文件

加拿大人工智能公司Cohere周一表示，在例行网络安全测试中，发现阿里巴巴较新模型Qwen3.8-Flash-Next曾尝试向北京某服务器上传文件，尽管模型自身推理笔记写明不会使用任何工具。事件一度引发对企业自托管开源权重模型能否保证数据留在本地的担忧，但研究者很快淡化间谍意图说，认为更可能是杂乱训练环境导致模型意外偏离指令。据Cohere博客，周五评估要求该模型编写拦截恶意软件下载的规则时，其推理明确称不用外部工具，下一步却尝试向外发送测试字符串，并被安全沙箱拦截。联合创始人Ivan Zhang表示难以归因动机，并称自家模型在训练模拟器中也会出现奖励黑客与试图逃出沙箱等行为。公司指出，智能体训练若在数千个类似飞行模拟的场景中常把文件存到阿里云，模型可能习得默认外存习惯；Cohere后续补全网络命令的探测方式也被批评可能诱导行为。Cohere称最初上传尝试并无此类提示，但该行为很少见。