开源 #开源模型 2026-11-14 · 原文发布 11-13

llama.cpp 与 ggml 发布 v1.0.0:今后公开 C API 的破坏性变更都升主版本号

本地推理最常用的底座给出了稳定的 API 承诺。这一条讲版本规则、模型覆盖和分发渠道,适合把 libllama 打进自家应用的团队。

图片来源:Hugging Face 博客
一手来源 Hugging Face 博客 · huggingface.co 读原文 ↗

// 要点

  • libllama(llama.cpp)与 libggml(ggml)同时发布 v1.0.0;今后 API 与 ABI 不兼容的改动都通过主版本号体现。
  • 版本规则:./include 下公开 C API 的破坏性变更升 MAJOR;向后兼容的新功能、后端更新与新模型支持升 MINOR;不改 API 的修复升 PATCH。
  • 目前支持 150 多种模型架构变体以及所有主流的投机解码方法。
  • 分发渠道包括 Docker、Debian、Homebrew、conda-forge、MacPorts、Winget 和 iOS / macOS 的 XCFramework;CI 有 NVIDIA、AMD、Qualcomm、Arm、IBM、Intel 提供的自托管硬件。

开发者视角这件事的意义不在新功能,而在「可以放心依赖」:以前把 libllama 打进桌面或移动应用,每次升级都要重新对接口。我的做法是锁定 1.x、放开 MINOR 自动升级,像 AI 云盘这类想在本地做文件理解的场景,现在可以认真评估离线方案了。

// 来龙去脉 · 来自 #开源模型 专题

看完整时间线 →
  1. 11-14 NVIDIA 用两台 DGX Station 跑 753B 参数的 GLM-5.3:并发 16 时输出吞吐峰值 607.8 token/s
  2. 11-13 IBM 发布 LLMON 标记语言与 Granite 4.1 3B、8B 预览模型:用保留特殊 token 区分指令与数据,在 OPI 基准上比最好的前沿模型多挡住 47% 的注入攻击
  3. 11-13 DeepSeek V4-Pro、V4-Flash 与 V4.1-Flash 上架 SageMaker JumpStart:均为 MIT 许可的 MoE 模型,100 万 token 上下文

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →