vLLM Semantic Router 发布 270 亿参数开源多模态决策模型 d3-ultra

vLLM Semantic Router 团队发布了基于 Apache-2.0 许可的多模态决策模型 d3-ultra。该模型约 260.9 亿参数（稠密结构，含约 0.46 亿参数视觉编码器），单次问题上下文达 131072 个 token，不生成文本，而是一次性读取输入并为每个问题的每个答案返回概率，可供开发者用一次开源权重调用完成路由、分类、视觉定位与视频检查。团队在私有评测中称其在六款决策模型里取得最高 SR-Text 分数，SR-Text 工具与自动化任务上机会校正准确率达 97.8；在涵盖九个领域的 SR-Box 上为 54.6%，比同系列 d3-turbo 低 5.0 个百分点。官方称已在单块 AMD Instinct MI325X 上以 BF16 权重完成测试，尚无正式量化版本。d3-ultra 属于 Decision 3.0 家族（规模从 0.6B 到 27B），面向类型化问题输出概率；使用方式是提交文本或 JSON 状态并附带图像或视频，再给出一组带类型的问题。