NVIDIA 发布循环式 4B 模型 Dory1.0：同一个权重靠循环次数换精度，SWE-bench Verified 从 1 次循环的 50.3 升到 4 次的 61.8
一个权重文件、多档推理算力，不用换模型也不用重训。这一条讲循环模型是什么、能换来多少精度。
// 要点
- 4B 参数，循环式（潜在递归）normalized-GPT 架构，滑动窗口与全注意力层交错，上下文最长 256K，仅支持英文。
- 通过改变共享层块的重复次数调节推理算力：SWE-bench Verified 在 1、2、4 次循环下分别为 50.3、59.5、61.8，同表 Qwen3.5-9B 为 61；官方称循环越多，解同样任务生成的 token 越少。
- 支持「只缓存最后一次循环」的 KV 缓存，每个递归注意力层只保留一份缓存，避免显存随循环次数增长。
- 以 NVFP4 原生预训练，提供 BF16、MXFP8、NVFP4 与 Q5_K_M 格式，许可为 OpenMDW-1.1。
开发者视角「一个模型、按请求难度给算力」很适合端侧和小团队：简单请求跑 1 次循环，难的跑 4 次，不用维护两套模型。我会先在离线批处理里测循环次数和时延的真实曲线；它只支持英文，中文产品现在别直接上。