开源 #开源模型 2026-10-18 · 原文发布 10-16

NVIDIA 与 AI4Bharat 开放 2.8 万亿 token 的印度语言预训练语料,覆盖 22 种语言,并公开生成它的整条流水线

不只给数据,还给「怎么造数据」的配方。这一条讲语料构成,以及这套合成流水线能被拿去做什么。

一手来源 Hugging Face 博客(NVIDIA) · huggingface.co 读原文 ↗

// 要点

  • 原生文字 token 26010 亿,拉丁转写 token 2246 亿(按 Gemma-4 分词器计)。
  • 覆盖印度宪法列出的 22 种语言,其中 12 种另有拉丁转写版本,共 34 种「语言 × 文字」组合。
  • 流水线基于 NeMo Data Designer 与 Gemma-4-31B-it:整篇翻译英文文档、评估翻译质量、修复低分结果,再把部分结果转为拉丁文字;提示词会区分要翻译的正文与要保留的代码、公式、URL。
  • 每条输出保留来源文档标识,可追溯到原始英文文档。

开发者视角对我们更有用的是那条流水线,而不是印度语料本身:「整篇翻译 → 打分 → 只修低分 → 保留代码和公式」这套做法,可以直接借来给智能面试的题库做多语言版本。先拿 100 道题跑一遍,人工抽检修复环节到底修好了多少。

// 来龙去脉 · 来自 #开源模型 专题

看完整时间线 →
  1. 10-18 DeepSeek 以 MIT 许可发布 V4.1-Flash-1017:DeepSWE v1.1 从 74.2 升到 77.0,Terminal-Bench 4.0 从 31.2 升到 42.3
  2. 10-18 腾讯混元以 Apache 2.0 开源 Hy-Memory-30B-A3B:约 3B 激活的记忆写入模型,四个记忆框架平均 55.49,高于 Claude Opus 5 的 54.62
  3. 10-18 NVIDIA 发布循环式 4B 模型 Dory1.0:同一个权重靠循环次数换精度,SWE-bench Verified 从 1 次循环的 50.3 升到 4 次的 61.8