行业 #微软#开源模型 2026-11-21 · 原文发布 11-20

Microsoft Foundry Managed Compute 正式可用:150 多个开源模型部署到专属 GPU,可选 NVIDIA A100、H100、H200 或 AMD MI300X

自己托管开源模型要管 GPU、容器和推理运行时。这一条讲微软把这些包成托管服务后,你还需要决定什么。

图片来源:Microsoft Foundry 博客
一手来源 Microsoft Foundry 博客 · devblogs.microsoft.com 读原文 ↗

// 要点

  • 6 月 Build 大会预览,此次正式可用;预览后扩容了服务能力、改进了提示词复用,并增加 US 与 EU Data Zones 部署选项。
  • 在模型目录按「Managed Compute」筛选可找到 150 多个开源模型;部署模板决定上下文长度、推理运行时和 GPU 配置。
  • 部署向导显示每小时费用;示例代码在 4 张 MI300X 上部署 DeepSeek V4.1 Flash,并用 OpenAI 兼容的 Chat Completions 调用。

开发者视角按小时租专属 GPU 跑开源模型,适合流量稳定、对数据驻留有要求的场景;流量起伏大的,按 token 的托管接口通常更划算。我会先算清自己的日均 token 量,过了盈亏点再迁,并顺手试一下 MI300X 的模板,多一个 GPU 供应来源本身就是议价筹码。

// 来龙去脉 · 来自 #微软 专题

看完整时间线 →
  1. 11-20 微软 Foundry 让自建智能体拥有自己的 Microsoft 365 账户:独立邮箱、日历、OneDrive 和 Teams 身份,并有对其负责的经理
  2. 11-19 Foundry Agent Service 的 Ignite 更新:托管 Copilot harness 公开预览,语音智能体、电脑操作与浏览器自动化正式可用
  3. 11-18 微软 Ignite 推出 MAI Code 2 与 Code 2 Flash 编码模型,并开放 MAI Licensed Weights,Agent 365 已管理超过 5,000 万个智能体

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →