NVIDIA 开放 120B 的 Nemotron 3.5 Super VL,连同权重放出数据集和训练配方;74B-A9B 的 Bolt 原生 2-bit 装进 24GB
NVIDIA 把 Nemotron 3.5 补齐成从数据中心到笔记本的一整套开放智能体模型。
// 要点
- Nemotron 3.5 Super VL 为 120B 参数开放模型,官方称其能力与 NVIDIA 最大的推理模型相当、参数约为其五分之一,并比同级次优模型快 5 倍。
- Super VL 经约 26 万亿 token 预训练与继续预训练,再用约 380 万条样本做后训练并加强化学习;权重、数据集和训练配方一并开放,已上 Hugging Face、OpenRouter、ModelScope 和 NVIDIA NIM。
- Nemotron 3.5 Bolt 74B-A9B 用原生 2-bit 量化装进 24GB,已上 Hugging Face,支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。
- 更小的 Bolt E4B 4GB 将于 10 月 23 日推出;文中没有写明许可证。
开发者视角10-14 那期还只是预告,今天 Bolt 真的上了 Hugging Face,24GB 显存就能跑一个 74B 的智能体模型。我会先拿 Bolt 在 PandaClaws 的批量改写任务上做本地对照,看 2-bit 量化在中文长文上的掉点;Super VL 带数据集和配方一起开放,更适合想自己微调的团队。许可证没写清楚之前,只做评测不上生产。