Meta发布Muse Glimmer：300亿参数的开源本地运行AI模型

今日，Meta发布了Muse Glimmer，这是一个具有300亿参数的开放权重模型，旨在直接在消费者硬件上运行自主AI代理。该模型采用Apache 2.0许可证发布，是自4月份推出专有模型Muse Spark以来Meta首次完全开源的重要举措。Glimmer可以在高端Mac和PC上本地运行，无需依赖云端基础设施。此外，Meta还与AMD、Arm、戴尔、英特尔和英伟达合作优化了设备性能，并发布了详细的开发者文档。该模型支持多种语言和图像处理功能，能够执行复杂的任务序列，如计划制定、工具调用、结果解释等。为了适应不同硬件配置，Meta开发了4位量化版本的Glimmer，使其能够在24GB或32GB内存的高端消费级GPU上运行。此外，Meta还使用DFlash投机解码技术来减少延迟，提高生成速度。