安全 #开源模型#智能体 2026-11-12 · 原文发布 11-10

微软研究院披露 Lazarus:改写不到 10 个休眠神经元、无需训练,就能给基于该模型的智能体植入后门

一种直接改权重的后门手法,模型照样通过常规评测,触发条件出现时才让智能体执行攻击者的命令。这一条讲它怎么起作用、为什么难查,以及微软给的防御方向。

图片来源:微软研究院博客
一手来源 微软研究院博客 · microsoft.com 读原文 ↗

// 要点

  • 研究者发现,改写模型中不到 10 个很少激活的神经元即可植入后门,不需要训练,只需要能跑推理的算力和对权重文件的写权限。
  • 触发条件可以很平常,例如时钟走过 2027 年的零点,智能体就在正常任务中途输出下载并运行攻击者代码的命令,并以它被赋予的权限执行。
  • 前沿智能体在被要求检查时能发现异常的权重改动,但扫描无法证明模型绝对安全;可靠的检测需要与原始未改动的权重做比对,因此来源与完整性是关键。作者强调这不是反对开放权重:内部模型同样暴露。
  • 微软称 Foundry 上架开放权重模型时把每个模型绑定到原始发布者,并在扫描过的容器里运行;正在开发基于智能体的权重扫描、红队工具,以及可验证来源的模型签名。

开发者视角我会马上做两件事:自部署的开放模型在部署流水线里校验权重文件与发布方给出的哈希一致,存放权重的桶只给发布账号写权限;跑智能体的环境默认只放行白名单域名的出站请求,这样即便模型被改,「下载并执行」这一步也走不通。

// 来龙去脉 · 来自 #开源模型 专题

看完整时间线 →
  1. 11-12 Tether AI Research 发布 0.8B 端侧智能体模型 BotPsy:BFCL v4 从 23.4 提到 44.0,六项工具调用基准中五项超过 2.5 倍大的 Qwen3.5-2B-Think
  2. 11-11 NVIDIA 开源 Snapshot:从 GPU 内存快照恢复推理副本只要 3.6 到 42.7 秒,比冷启动快 8 到 36 倍
  3. 11-11 Hugging Face 为「决策模型」定统一接口:Transformers 加入 DecisionPipeline,llama.cpp 同样支持

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →