Apertus 1.5 发布:新增图像音频理解、思考模式与四倍上下文窗口

Apertus 1.5 在既有 8B 与 70B 的 1.0 版本基础上扩展,新增图像与音频理解、可选思考模式、四倍更长的上下文窗口,并改进指令遵循与工具调用。更新后的权重于 2026 年 7 月 24 日以 Apache 2.0 许可证发布到 Hugging Face。该版本为持续预训练:8B 再加约四万亿文本与多模态 token,70B 再加约两万亿,累计分别约十九万亿与十七万亿 token。多模态采用早期融合,图像与音频以离散 token 进入同一序列,图像用 Emu3.5 分词器,音频用 WavTokenizer,仅扩展词表以保持架构不变;模型可理解图像与音频,但只生成文本。预训练分未配对、配对、冷却与长上下文等阶段,上下文窗口最高达二十六万二千一百四十四 token。项目强调权重、数据、价值观与训练细节全面开放,并加强遵循 Apertus 宪章。
编号 NEWS-18916
分类人工智能
时间2026-10-16 02:14:59
相关10