安全 #智能体#Google 2026-11-13 · 原文发布 11-12

Google 用 5 个外部基准测 Agent Anomaly Detection:智能体实际执行的有害指令标出 87%,被投毒的长期记忆只抓到 18 例中的 4 例

Google 把自家智能体异常检测拿到非自己写的公开基准上跑,结果包括强项、误报率和明确的短板。

图片来源:Google 开发者博客
一手来源 Google 开发者博客 · developers.googleblog.com 读原文 ↗

// 要点

  • 测试用 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn、AgentHarm 五个公开基准,共 1,774 个会话;智能体用 ADK 搭建、模型为 gemini-2.5-flash,由基准自带的确定性代码判定结果。
  • 智能体读到并执行的有害指令,被标记了 87%;按基准分别为 AgentDojo 85%、InjecAgent 87%、AgentDyn 99%、AgentHarm 81%。
  • 办公类良性会话的误报率为 2% 到 4%,AgentHarm 上为 16%,原因是其良性任务也会发社交帖、跑终端命令、下载文件。
  • 最大短板是记忆投毒:长期记忆中植入的指令让智能体行动时,只抓到 18 例中的 4 例。

开发者视角厂商用别人的基准、连短板一起公布,这种评测方式值得照学。对做产品的人,结论是事后检测能兜住大部分注入,但长期记忆是盲区:PandaClaws 这类会记住用户偏好的智能体,写入记忆前要单独做一道校验,并保留可追溯的写入来源。

// 来龙去脉 · 来自 #智能体 专题

看完整时间线 →
  1. 11-13 Anthropic 推出自托管版 Claude Managed Agents:服务、智能体、会话与历史都存在自己的基础设施上,模型可改走 Bedrock、Google Cloud 或 Foundry
  2. 11-13 新一代 AgentCore 运行时成为默认:2 GB 镜像会话 P75 启动不到 2 秒(旧版 29.7 秒),多轮智能体计费内存最多减少 68%
  3. 11-12 Google 推出 Gemini Decisions API:Gemini Decision 1 一次处理最多 1,000 个封闭式问题,每百万输入 token 0.10 美元,输出不计费

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →