Liquid AI发布LFM2.5-2.6B：一款具备工具调用和开放权重的在设备上运行的代理模型

近日，Liquid AI公司发布了名为LFM2.5-2.6B的新一代在设备上运行的代理模型。该模型拥有2.69亿参数，并具备131072个令牌的上下文窗口和128000个词汇量。它可以在手机、笔记本电脑、PC以及机器人等设备上执行多步骤任务，且无需将数据上传至云端，从而确保了用户隐私的安全性。此外，该模型还支持工具调用功能，并以开放权重的形式在Hugging Face平台发布。Liquid AI表示，这款模型的推理过程完全本地化，每次运行的成本几乎为零。LFM2.5-2.6B有两个版本：Base版用于微调，而经过预训练的版本则适用于代理工作负载。该模型支持多种格式，并且在多个平台上都有良好的兼容性，包括llama.cpp、vLLM、SGLang和LM Studio。Liquid AI公司还提供了详细的部署指南，涵盖了从个人开发者到大型企业的各种应用场景，如汽车、消费电子、工业机器人、医疗保健、金融服务、电子商务和国防等行业。此外，该模型特别适合于受监管环境或需要严格数据保护的场景中使用。