feaOS 旁注与此刻
人工智能 来源:Hugging Face Blog 整理:feaOS 2026-11-14 01:34:04

llama.cpp与ggml发布v1.0.0,将以主版本号标示API与ABI不兼容变更

llama.cpp与ggml发布v1.0.0,将以主版本号标示API与ABI不兼容变更 图片

据Hugging Face博客介绍,llama.cpp团队发布了库版本v1.0.0,强调对下游开发者的责任,并为本地人工智能生态打下更稳固的基础。llama.cpp可在从消费级本地机器到高端企业服务器的广泛硬件上运行多模态大语言模型。通过量化、优化的后端以及可移植的C/C++实现,该项目使人工智能推理在软件栈的各个层级都更易获得。团队认为,这是构建跨平台、注重隐私的人工智能产品时最轻量、最灵活且最稳妥的平台。自项目启动以来的三年半里,它已大幅成长,许多下游应用已经依赖其工作。随着本地人工智能和隐私在日常生活中愈发重要,他们预计这一趋势将持续。每一次新的集成都意味着有更多开发者依赖其库接口,因此拥有灵活而稳定的API至关重要。他们宣布,今后llama.cpp和ggml都将以主版本号上升来标示API和ABI的不兼容变更;随着采用扩大,他们会更严格地让这些边界对下游用户可见。此次同步发布的包括:llama.cpp v1.0.0,用于在C/C++中进行大语言模型推理,对应库为libllama,公开头文件位于llama.cpp/include/;以及ggml v1.0.0,作为机器学习张量库,对应库为libggml,公开头文件位于ggml/include/。对于使用语义化版本的ggml-org项目,主版本号变更对应./include中公开C API的破坏性修改,次版本号变更则对应向后兼容的功能、后端更新、模型支持或API新增。

编号 NEWS-21373
分类人工智能 时间2026-11-14 01:34:04 相关10