DeepSeek V4-Pro、V4-Flash 与 V4.1-Flash 上架 SageMaker JumpStart:均为 MIT 许可的 MoE 模型,100 万 token 上下文
三款 DeepSeek 开放权重模型可以在自己的 AWS 账户里一键部署。这一条讲三者的规格差别和各自适合的场景。
// 要点
- V4-Pro 总参数 1.6T、每 token 激活 49B,面向复杂推理与高质量生成。
- V4-Flash 总参数 284B、每 token 激活 13B,面向对时延和成本敏感的生产部署。
- V4.1-Flash 采用因果编码器-解码器(CED)架构,552B 主干,预填充激活 8B、解码激活 16B,原生多模态,最大输出 384K token;CSA2 注意力与 FP4 KV 缓存把全局 KV 缓存降到 V4-Flash 的约四分之一。
- 三者均支持 100 万 token 上下文,可在 SageMaker 控制台或 Python SDK 中部署。
开发者视角对数据不能出自己云账户、又想用便宜开放模型的场景,这省掉了自己搭推理服务的一步。我会优先看 V4.1-Flash:KV 缓存只有四分之一,长上下文的智能体任务最吃这一点。上线前用自己的任务对比 Bedrock 按量调用和 JumpStart 常驻实例的单任务成本,流量不稳定的话常驻实例未必划算。