阿里云发布Qwen3.8-Flash-Next：面向成本优化的多模态MoE模型

近日，阿里云团队发布了Qwen3.8-Flash-Next，这是一个面向每令牌成本优化的开放权重多模态Mixture-of-Experts（MoE）模型。该模型结合了1250亿参数的基础模型、510亿参数的N-gram嵌入表和40亿参数的多令牌预测模块，在磁盘上总计占用1800亿个参数，但每令牌激活的参数仅为60亿。阿里云团队将其定位为Qwen4架构的早期预览版本，并引入了Gated DeltaNet与Qwen稀疏注意力混合、门控残差、N-gram嵌入和Muon优化器等四项创新技术。相较于之前的Qwen3.7-Plus，训练成本大约降低了九分之一。