Meta发布Muse Glimmer：30亿参数本地运行的多模态模型

Meta公司发布了名为Muse Glimmer的30亿参数多模态模型，该模型是从Muse Spark中提炼出来的。它专为持续运行的本地代理工作流程设计，并以Apache 2.0许可证发布。通常情况下，一个30B规模的模型需要超过55GB内存才能在全精度下运行，但Meta通过压缩至大约4位并添加块级推测解码技术使其能够在单个消费级GPU或Mac上运行，无需网络调用。该模型适用于医疗、法律、金融服务等行业的本地部署需求，并支持桌面代理读取截图、代码编写助手等功能。Muse Glimmer是一个密集的因果变换器，具有专用感知编码器，总参数量约为30B，包括视觉塔部分。