2026-11-10 · 周二 · 10 条

Claude Fable 5.2 降价上线、Google 推出两套新 TPU、AWS 让智能体代码跑进硬件隔离沙箱

今天的主线是「能力更强的同时,运行它的那一层也在换代」:Anthropic 最强一档模型降价两成,而 Google 的机密推理 TPU、AWS 的 Nitro 沙箱和 GitHub 的日志密钥扫描,都在补「模型写的代码、处理的数据在哪里跑、漏了怎么办」。

RSS
    • Fable 与 Mythos 是同一个底层模型:Fable 带网络安全与生物安全防护、对所有用户开放,Mythos 需通过 Cyber 或 Life Sciences 验证计划申请。
    • 价格为每百万 token 输入 8 美元、输出 40 美元,生成速度比 5.1 快最多 30%;可选 fast mode 再提速最多 2.5 倍,价格为 16 / 80 美元。
    • FrontierCode 2.0 上 Xhigh 档 49.1%,为官方测过的已发布模型最高;High 档 45.3%,与 Opus 5.5 最好成绩 45.5% 持平,单任务成本约一半。
    • 官方建议日常编码与知识工作先用 Opus 5.5,再按任务难度向上切到 Fable / Mythos,或向下切到 Sonnet 5.5、Haiku 5.5;当天起在各平台可用,含 AWS、Google Cloud 与 Microsoft Azure。

    开发者视角我的做法是不全量切:Opus 5.5 继续当默认,只把「Opus 反复做不成」的长任务路由给 Fable 5.2,High 档就够,按官方数字单任务反而更便宜。这和我在博客里写的模型路由五问是一个思路:先按任务分档,再看单价。

    • TPU 8tx 与 8t 同一块硅片,搭配第五代 AMD EPYC 主机,在硬件层保护运行中的数据与模型权重;延迟比 8t 最多低 2 倍,性能损失接近零。
    • TPU 8i Max 把两颗 8i 芯片封装到一起,算力、SRAM 与 HBM 带宽都是 8i 的两倍,同一机架空间内放下两倍硅片。
    • 这是 Google 第一次在一年内推出四套 TPU 系统;TPU 业务已有近 100 家客户,包括前沿实验室、交易公司与零售商。

    开发者视角对大多数做产品的人,这不是要买的硬件,而是一个信号:「数据在用时也加密」开始进入云上推理的标准选项。做 AI 云盘这类处理用户私有文件的产品,可以开始在合规问卷里留出「机密推理」这一栏,等云厂商把它做成按量计费的选项时再评估。

    • 每个工作负载拿到一台由 Nitro Hypervisor 管理的独立虚拟机,接近原生 EC2 性能,可在单台实例上安全运行不可信、多租户或受监管的工作负载。
    • 支持密码学证明:只有证明了自身完整性的 Nitro Sandbox 才会拿到密钥。
    • EKS 或 ECS 中启用只需改一行,Pod Identity、VPC CNI、EBS / EFS / S3 与 CloudWatch 照常可用;也可在 EC2 上自带 AMI 与 VMM,原生支持 Amazon Linux 与 Firecracker。
    • 已在大多数基于 Nitro 的 EC2 实例、全部商业区域上线,不额外收费。

    开发者视角和 11-07 那条 Claude Code 在 AgentCore 上「一个任务一台 microVM」连起来看,跑智能体代码的默认隔离单位正在从容器变成虚拟机。如果你的后台会执行模型写的脚本(PandaClaws 的数据处理就是),先把这类任务挪到单独的节点组试 Nitro Sandboxes,再看密钥是否能改成按证明下发。

    • 工作流运行结束后,GitHub 按服务商模式扫描日志,结果进入仓库的密钥扫描告警列表并链接回日志;支持的类型会做有效性检查。
    • 面向开通 GitHub Secret Protection 或 Advanced Security 的 Enterprise Cloud 企业,策略默认关闭,由企业所有者在 Policies → Advanced Security 中启用。
    • 只扫描启用之后完成的运行,不回溯旧日志;通用模式、自定义模式、AI 识别的密钥和已被 Actions 掩码的密钥不检测;预览期间不发通知。

    开发者视角智能体越来越多地在 CI 里跑命令、打印环境,日志是最容易漏密钥的地方。符合条件的团队现在就打开,并且因为预览期不发通知,要有人定期去告警列表看;不符合条件的,至少检查一下哪些 job 会把 env 打到日志里。

    • 输入图像、视频与文本、输出文本;语言骨干为 Mamba-2 与 MoE 交错的混合结构(512 个路由专家、每 token 激活 22 个),带 MTP 头支持投机解码,许可证为 OpenMDW 1.1。
    • JumpStart 提供两个变体:NVFP4 约 75 GB,默认跑在 ml.g7.24xlarge;BF16 约 249 GB,跑在 ml.p5en.48xlarge。
    • AWS 的测试中,BF16 版每请求平均输出 140.85 token/s,三种配置的首 token 时间都在约 0.5 秒。
    • NVIDIA 的定位是文档理解、电脑操作智能体的界面理解、视频问答和多模态智能体应用。

    开发者视角和 11-08 Kimi K3.1 Pro 上 Bedrock 一样,开放大模型进云目录的速度越来越快。AI 云盘里扫描件、截图类文件的理解,我会拿 NVFP4 版在自己的样本上和现用的闭源模型比一次准确率和单页成本,再决定要不要切一部分流量。

    • 以 Qwen3.5-122B 为例:每层 256 个专家、每 token 只用 8 个,约 250 GB 参数里 95% 是专家 MLP。
    • HOPE 是二阶方法,计入专家之间的成对交互;在 Qwen3.5-122B、Qwen3.5-35B 与 GLM-4.5-Air 上与 4 种一阶方法比较,全部条件下平均排名 2.07(5 种方法),39% 的条件拿第一。
    • 剪枝率越高优势越大,智能体编码任务上比次优方法最多高 6.1%;剪枝率 10%–20% 时一阶方法有时不相上下。
    • 附带工具包分校准、求解、剪枝三步,已在 Qwen3、Qwen3-Next、Qwen3.5 与 GLM-4.5 上测试。

    开发者视角自己部署 MoE 开放模型、卡在显存上的团队值得一试:先用自己产品的真实轨迹做校准数据(论文就用了 SWE-Bench 轨迹),剪 40%–50% 再叠量化,最后在自己的评测集上验,而不是只看公开榜单。

    • 新模式通过 AgenticRetrieveStream 提供:单次 RAG 只检索一次再由基础模型生成答案;仅检索模式只返回匹配段落,不生成答案。
    • 原有的智能体检索会把问题拆成子查询、评估结果是否足够,不够就在设定的迭代上限内补充检索,必要时取回整篇文档。
    • 官方示例是银行内部政策助手:开户材料清单用单次 RAG,跨多种企业类型的政策对比用智能体检索。

    开发者视角按问题难度分配检索预算,是我在 AI 云盘的文档问答里一直想做的事。不在 AWS 上也可以照抄这个结构:先用一个便宜的分类判断要不要多轮检索,再把「只返回原文」做成单独入口,用户要核对出处时不必等生成。

    • Control Room 是一个中心化系统,用来追踪 OpenAI 研究基础设施上的模型工作负载。
    • 当出现安全或安保方面的隐患时,它可以快速停止这些工作负载。

    开发者视角和 11-08 OpenAI 请 Hacktron 测自家系统连起来看,安全工作正在从模型本身扩到运行模型的基础设施。我们这种规模用不上专门系统,但每个长跑的智能体任务都该有一个统一的清单和一键停止,至少别让人去机器上找进程。

    • ChatGPT Enterprise 现在可以通过 AWS Marketplace 购买。
    • 目的是让企业借助已有的 AWS 采购与账单关系简化采购流程。

    开发者视角同一天 Claude Fable 5.2 也在 AWS 上线,加上 11-05 的 Daybreak Red 进 AWS GovCloud,模型厂商在比的已经不只是能力,还有「能不能走客户现成的云账单」。给企业客户做 AI 功能的,报价时可以问一句对方的云承诺消费,能抵扣往往比便宜几成更好谈。

    • 在 AI Studio 里向 Gemini 描述一个跟真实世界相关的想法,即可启用 Google Maps,无需信用卡,也可自动识别并关联已有的 Google Cloud 项目。
    • AI Studio 会安全连接密钥并直接加载可交互的实时预览。
    • 每日配额内免费,配额每 24 小时重置;上线生产需要付费的 Cloud 账单账户。

    开发者视角原型工具的竞争点正在变成「接好了哪些真实数据源」。要验证一个带位置的点子,现在可以先在 AI Studio 里半小时做出能点的原型给用户看,但别把生成的代码直接当生产代码,密钥和配额要在上线前重新按自己的项目配。

本期由 AI 辅助检索与起草,选题标准与观点由 Darius 设定。

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →