Hugging Face 为 Transformers 提出「模型集成契约」：在 CPU 上跑保留真实结构的微型模型，本可抓住一个在 main 里待了近两个月的 UMT5 缺陷
通过固定缩小版权重和人工审过的基线，不用 GPU 也能在每个 PR 上测几百种模型。
// 要点
- 每份契约包括一个微型模型（保留全部层类型）、一段可运行的用法示例，以及人工审核过的基线输出
- Transformers 支持 750 多种模型类型，main 上有 88,000 多个 CPU 测试，每天另跑 200,000 多个 GPU 测试
- 2026 年 7 月的一次 SDPA 改动让 UMT5 解码器在训练中看到未来 token；66 MB 的微型模型（原权重 1,227 MB）在回放中抓到了它，T5 契约在 CPU 上 13.4 秒跑完
- 截至 11 月 1 日，这项检查只报告失败、不阻塞 PR；覆盖仍不完整
开发者视角用 Transformers 自托管开源模型的团队要注意：一个静默的训练缺陷可以在上游待这么久。智能面试的微调，我会锁定库版本，并保留一个我们自己的微型模型和录好的输出，让升级在 CI 里失败，而不是在训练中才发现。