2026-11-12 · 周四 · 9 条

Google 推出只打分不生成的 Gemini Decisions API、微软发现改不到 10 个神经元就能给智能体埋后门、AWS 发布本地模拟器

今天的主线是智能体的「小事」在变便宜、变安全:Google 用一次前向计算替代生成式调用来做路由和判定,AWS 让编码智能体在本地模拟器和 x86 微虚机里试错;但微软的 Lazarus 提醒,权重本身也是供应链,模型从哪来、有没有被改过,得像代码一样核对。

RSS
    • 一次请求可传入一份多模态输入(文本、图片、音频、视频、PDF,最长 256K token)和最多 1,000 个独立问题,题型有是 / 否、单选(2 到 255 个选项)和有序评分三种,每个答案都带 0 到 1 的置信度。
    • 模型一次前向计算给选项打分,不逐 token 解码,端到端延迟 150 到 250 毫秒;价格为每百万输入 token 0.10 美元,输出 token 不计费,共享输入每次请求只算一次。
    • 官方称在其共享基准集上,比用 Interactions API 调 Gemini 3.5 Flash-Lite 便宜近 5 倍;Gemini Notebook 用它做实时路由,日常查询延迟最多降低 40%。
    • OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI 等集成正在陆续上线,Google Cloud 上的 Gemini 支持即将推出。

    开发者视角和 11-11 那期 Hugging Face 给决策模型定统一接口连起来看,「挑选项」正在从生成式调用里拆出来。我会先把智能面试里按评分标准给回答打档、PandaClaws 发布前的合规检查这两类调用接过来,用置信度设阈值,低于阈值的才交给大模型或人工,对比准确率和单次成本再决定切不切。

    • 研究者发现,改写模型中不到 10 个很少激活的神经元即可植入后门,不需要训练,只需要能跑推理的算力和对权重文件的写权限。
    • 触发条件可以很平常,例如时钟走过 2027 年的零点,智能体就在正常任务中途输出下载并运行攻击者代码的命令,并以它被赋予的权限执行。
    • 前沿智能体在被要求检查时能发现异常的权重改动,但扫描无法证明模型绝对安全;可靠的检测需要与原始未改动的权重做比对,因此来源与完整性是关键。作者强调这不是反对开放权重:内部模型同样暴露。
    • 微软称 Foundry 上架开放权重模型时把每个模型绑定到原始发布者,并在扫描过的容器里运行;正在开发基于智能体的权重扫描、红队工具,以及可验证来源的模型签名。

    开发者视角我会马上做两件事:自部署的开放模型在部署流水线里校验权重文件与发布方给出的哈希一致,存放权重的桶只给发布账号写权限;跑智能体的环境默认只放行白名单域名的出站请求,这样即便模型被改,「下载并执行」这一步也走不通。

    • 现有的 AWS SDK 与 CLI 调用发往模拟器,毫秒级返回;对已支持的操作,合法调用返回与 AWS 相同的结果,非法调用返回相同的错误,尚未支持的操作返回 501。
    • 资源状态保存在内存里直到停止;每个启动的副本有自己的端口、密钥和内存状态,智能体、测试套件和 CI 任务互相看不到对方的资源。
    • 服务由 AWS 公开的 API 模型生成(与 AWS SDK 用的是同一套),新服务和新接口会随版本出现,并附保真度报告对比与真实 AWS 的差异。
    • 不依赖区域、不另收服务费,部署到 AWS 时才为资源付费;源码以 CC0 1.0 公共领域协议发布在 GitHub。

    开发者视角我会让编码智能体默认对着本地模拟器跑集成测试,每个任务起一个独立副本,真实账号的凭证不再交给它;上线前先看保真度报告里自己用到的服务覆盖到哪,返回 501 的接口还得留一道真实环境的冒烟测试。

    • 基于 Qwen3.5-0.8B 训练,相比基座:BFCL v4 从 23.4 到 44.0,ACEBench 从 30.1 到 58.7,τ-bench 从 23.2 到 51.5。
    • 在六项工具调用与智能体基准中五项超过 Qwen3.5-2B-Think,只在 Claw-Eval 上落后(46.5 对 48.9)。
    • 在 IFBench 上陷入重复推理循环的比例从 22.9% 降到 1.4%;印地语(24.5)、俄语(57.6)等低资源语言明显弱于英文与中文。
    • 官方称将以 Apache 2.0 许可开放权重,用于研究与教育,提供 bf16、Q8、Q4 三种精度,含 safetensors 与可用于 llama.cpp 的 GGUF。

    开发者视角注意许可证写的是研究与教育用途,商用前先问清楚。我会拿 AI 云盘手机端「按条件找文件、建提醒」这类单步工具调用试它,本地能完成的不上云;多轮、要遵守复杂规则的任务它掉得快,还是交给云端模型。

    • 从 Dockerfile 创建 MicroVM 镜像时可选 x86 或 Arm(AWS Graviton,仍是默认),现有 x86 应用、工具和依赖无需重新编译。
    • Lambda MicroVMs 提供虚拟机级隔离、近乎即时的启动与恢复和状态保留,官方列出的场景包括 AI 编码助手、CI/CD 运行器、交互式开发环境和漏洞扫描器。
    • x86 在所有提供 MicroVMs 的区域可用,香港、马来西亚、泰国和西班牙区域除外;可通过控制台、CloudFormation、CDK 或 Agent Toolkit for AWS 使用。

    开发者视角和 11-10 那期 Nitro Sandboxes 一起看,AWS 上执行智能体代码的隔离选项已经覆盖容器、Pod 和函数三种形态。之前因为二进制依赖只有 x86 版本而没法用 MicroVMs 的,现在可以直接试;先按「短执行、长等待」的会话量算一下恢复次数和费用。

    • Content Understanding 新增 GPT-5.6、GPT-6 与 GPT-6.1 系列;标准文档抽取建议从 GPT-6.1 Sol 开始,重视成本时用 GPT-6 Luna。
    • 正式版抽取评测中 Astra 以 95.95% 对 95.74% 小幅领先 Sol(仅用 schema),但补全 token 花费约为 Sol 的 5 倍;在预览版抽取评测里反而是 Sol 领先(96.06% 对 95.58%)。
    • 给 Luna 加 5 个标注样例,抽取质量从 91.82% 提到 94.16%,token 花费仍远低于 Sol。
    • 不同任务最优模型不同:文档分段 Astra 领先(98.00% 对 97.10%),视频生成 F1 最高的是 GPT-6 Sol(86.40%)。

    开发者视角这组数据的价值在于说明「贵一档」往往只换来零点几个百分点。AI 云盘的文档字段抽取,我会先给便宜档补 5 个标注样例跑一遍,再决定要不要升模型;分段和抽取分开评测、分开选模型。

    • 多向量模型为每个 token 保留一个向量,百万级文档的语料可能有上亿个向量;token 池化把相似的向量合并以压缩存储。
    • pool_factor=4 时,普通训练的模型保留未池化 nDCG@10 的 94.6%,池化感知训练提到 97.8%,nDCG@10 从 49.03 到 51.23,文档向量比不池化少 74.8%。
    • 自适应池化下平均每篇文档 29.58 个向量、向量减少 84.7%,池化感知模型保留 97.3%,普通模型为 93.3%。
    • 方法以 Sentence Transformers 的损失包装器实现,文中附可复现的训练示例。

    开发者视角AI 云盘的语义搜索如果在考虑多向量模型,存储成本是最大的顾虑,这篇给了一个可以直接复现的折中:先按 pool_factor=4 估算向量数和存储费用,再用自己的文档集验证召回,不要只看 NanoBEIR。

    • 适配器把 LangGraph、LangChain、Strands Agents 与 Bedrock AgentCore 各自的消息、工具调用和智能体间交接转成一种统一轨迹,后续评测步骤与框架无关。
    • 内置 36 项指标,分 7 个维度:工具调用、回答质量、负责任 AI、性能、多轮对话、多智能体协作与推理;评测工具调用需要在标注里给出期望的调用、顺序和参数。
    • 存储前先筛查邮箱、电话、信用卡号等个人信息,结果作为实验记录写入 DynamoDB 与 S3,用于比较不同版本。
    • AWS 称电信、医疗、金融行业的 12 家机构已用它在发布前比较智能体版本,各框架都附可运行的 notebook。

    开发者视角值得抄的是思路而不一定是这套系统:先定一种与框架无关的轨迹格式,评测只认它。我会先给 PandaClaws 的发布智能体写好带期望工具调用顺序的测试集,换模型或改提示词前后各跑一遍,和 11-05 那期 NeMo「把失败变成测试」的做法可以接起来。

    • 改为条件模型:输入一百万个碱基的 DNA 序列加上一个目标条件(组织、细胞类型或状态),可从参考目录选,也可由研究者自己的单细胞实验即时生成,无需重新训练。
    • 训练数据包括人与小鼠的批量和单细胞数据,超过 1.07 亿个细胞档案、覆盖 68 种组织;新增 DNA 甲基化读数。
    • 在含 28 种免疫细胞的 TenK10K 数据集上,识别出的因果变异为 30%(对比 16%),方向性基因效应为 43%(对比 23%)。
    • 今天起可通过 AlphaGenome API 用于非商业研究,商业研究为私有预览。

    开发者视角这条离我的产品远,收它是因为设计思路可借鉴:把「对谁预测」作为条件输入,而不是为每种情况各出一套输出。做多租户或多岗位的产品,比如智能面试按岗位给反馈,也可以先试「一个模型加条件」而不是每个岗位一套提示词。

本期由 AI 辅助检索与起草,选题标准与观点由 Darius 设定。

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →