开源模型
权重开放、许可证、可本地部署的小模型。 这一页按时间倒序收录简报里所有与 开源模型 相关的条目,并保留每条的一手来源。
现状解读
开源模型这一周继续两头走。往上,Mistral Large 4 以万亿级总参数进入公开预览、权重定在月底;NVIDIA 用 Nemotron(Ultra-CC 550B 总参、55B 激活)在 IOI 2026 拿到 535.4/600、IMO 2026 拿到 30/42,并放出权重和训练数据。往下,10 月 7 到 8 日接连出现几个专用小模型:LightOnOCR-3(0.8B 到 4B,Apache 2.0,olmOCR-Bench 最高 86.3)、Liquid AI 的 d1 决策模型(d1-3B 在 RTX 4090 上单题 8 毫秒),加上此前的 EmbeddingGemma 2 和 Kolibri。
趋势是「小而专」越来越实用:OCR、向量、是非判断各有不到 4B 的专门模型,在各自任务上能接近或超过大得多的模型。同时许可证仍不统一,LightOnOCR-3 是 Apache 2.0,d1 和 Nemotron 的博客都没写明许可证。
接下来值得关注:Large 4 月底权重的许可证与自部署门槛,d1 和 Nemotron 权重的许可证,以及小模型在真实业务数据上的表现能否对得上榜单。
我的建议:把 OCR、分类、审核、检索这类固定任务列出来,逐个用不到 4B 的专用模型做替换测试,先确认许可证再进生产;旗舰级开源模型在权重和许可证落地前,仍当作可替换的 API 供应商来评估。
Darius · 更新于 2026-10-09
时间线 7 条
-
10-09 · 周五 · 3 条
- LightOn 开源 LightOnOCR-3:0.8B 到 4B 三个尺寸,Apache 2.0,olmOCR-Bench 最高 86.3
视角 · 0.8B 只比 4B 低不到 1 分,这对 AI 云盘的文档解析很有吸引力:我会先拿用户上传最多的扫描件和带表格的 PDF 做一轮对比,看能不能把一部分解析从云端 API 挪到自己的机器上。
出自 10-09 简报 · 第 06 条 → - Liquid AI 开放 d1 决策模型:d1-3B 一次前向给出判断,RTX 4090 上单题 8 毫秒
视角 · 内容审核、路由、是否需要转人工这类「是或否」的判断,没必要每次都调生成式大模型。我会把 PandaClaws 里的发布前合规判断拿来试 d1-3B,但许可证没写清之前只做评估、不上线。
出自 10-09 简报 · 第 07 条 → - NVIDIA 微调 Nemotron 拿下 IOI 2026 535.4/600、IMO 2026 30/42 金牌线成绩,并开放权重与训练数据
视角 · 550B 的模型多数团队用不上,真正值得拿走的是方法:Nano(30B 总参、3B 激活)在 IOI 2025 上从 SFT 后的 280 分靠 GenCorrect 这类测试时策略提到 468 分。做代码类产品的,可以先在自家评测集上试「生成后再自我纠错」这一层。
出自 10-09 简报 · 第 08 条 →
- LightOn 开源 LightOnOCR-3:0.8B 到 4B 三个尺寸,Apache 2.0,olmOCR-Bench 最高 86.3
-
10-07 · 周三 · 2 条
- 模型发布 mistral.ai ↗Mistral Large 4 公开预览:1T 总参数、49B 激活,API 每百万 token 输入 1.36 美元,权重月底开放
视角 · 输入 1.36 美元、输出 4.18 美元,这个价位已经值得把 PandaClaws 的长文生成和多语种改写拿去比一轮。但现在只是预览,权重和许可证都还没出,我会先用 API 跑自己的评测集,等月底权重和许可条款落地再决定要不要考虑自部署。
出自 10-07 简报 · 第 01 条 → - Google 开源 EmbeddingGemma 2:270M 到 740M 的多模态向量模型,代码检索比上一代高 14%,Apache 2.0
视角 · 这条和 AI 云盘最直接相关:图片、视频、录音和文档进同一个向量空间,就能用一句话跨类型搜文件,不用再为每种格式各接一套模型。我会先拿 270M 的文本版替换现有向量模型做对比,再按需加载视觉模块;128 维截断能把索引存储压下来,但要先在自己的检索集上测召回掉多少。
出自 10-07 简报 · 第 02 条 →
-
-
10-06 · 周二 · 1 条
- Aleph Alpha 开源 Kolibri:78B MoE 每 token 激活 3.46B,验证到 100 万 token 上下文,Apache 2.0
视角 · 每 token 只激活 3B 多、单卡能跑,又是 Apache 2.0,这类模型很适合 AI 云盘这种要私有化部署的长文档问答。不过它只做德英两种语言,中文场景别直接上;我更想拿它验证的是「滑窗注意力 + 长上下文」在自己硬件上的真实吞吐,再决定下一个自部署模型怎么选。
出自 10-06 简报 · 第 01 条 →
- Aleph Alpha 开源 Kolibri:78B MoE 每 token 激活 3.46B,验证到 100 万 token 上下文,Apache 2.0
-
10-05 · 周一 · 1 条
- Ai2 开源 AstaBrief 8B:一次生成带引用的研究报告,比 Claude 驱动的模式快约 3.5 倍
视角 · 「检索后写成带引用的长文」是 AI 云盘文档问答最常见的需求,8B 小模型能在一次调用里做完,意味着可以私有化部署、把成本压下来。我会先拿自己的文档集对比引用准确率,再决定是否替掉现有的大模型调用。
出自 10-05 简报 · 第 02 条 →
- Ai2 开源 AstaBrief 8B:一次生成带引用的研究报告,比 Claude 驱动的模式快约 3.5 倍