Liquid AI发布新模型LFM2.5-2.6B,可在小型设备上运行
近日,由前MIT计算机科学家创立的人工智能初创公司Liquid推出了新的开源权重语言模型LFM2.5-2.6B。该模型专为代理工作负载设计,能够在从智能手机到Raspberry Pi等小型设备上本地运行,无需依赖云端或GPU资源。这使得企业在受监管行业或处理敏感信息时有了更多选择,并解锁了边缘AI应用的可能性。Liquid公司表示,这款模型适用于高流量、定义明确的本地任务,如工具调用、文档管理、日历和工作流自动化等。该模型包含26亿参数,支持128,000令牌上下文窗口,并包括原生工具调用功能。此外,该公司还提供了一个开源微调框架LEAP,使得开发者可以进一步定制化使用。
