月之暗面发布Kimi K3.1 Pro：总参量2.8T、激活104B的百万上下文MoE模型

月之暗面（Moonshot AI）近日发布Kimi K3.1系列首款模型Kimi K3.1 Pro。该模型属约3万亿参数量级的开源权重模型，具备100万token上下文窗口；团队将其在编程、智能体与知识类基准上对标最强闭源模型。对开发者而言，API定价低于K3，但开源权重目前尚未开放，预计2026年11月发布。规格方面，总参数约2.8万亿、激活参数约1040亿（混合专家架构），上下文100万token；现阶段可通过Kimi API调用。对于K3，月之暗面建议使用64块以上加速器组成的超节点，权重采用MXFP4、激活采用MXFP8，并非单卡可跑模型。性能上，终端编程接近闭源前沿，科学类终端任务则落后；自报最佳成绩为SWE-Marathon 51.7，领先其图表中所有模型，最弱为Terminal-Bench Science 0.1的38.1，对比图表中GPT-6 Astra的68.1。Kimi K3.1 Pro是在Kimi K3基础上加大后训练算力得到的版本，团队在数百个下游领域开展联合强化学习，并优化了强化学习框架、长上下文推理、沙箱基础设施与rollout调度。基座K3采用Kimi Delta Attention与Attention Residuals，经Stable LatentMoE在896个专家中激活16个；按快速入门文档，API可接受文本、图像与视频输入。