微软研究院披露 Lazarus:改写不到 10 个休眠神经元、无需训练,就能给基于该模型的智能体植入后门
一种直接改权重的后门手法,模型照样通过常规评测,触发条件出现时才让智能体执行攻击者的命令。这一条讲它怎么起作用、为什么难查,以及微软给的防御方向。
// 要点
- 研究者发现,改写模型中不到 10 个很少激活的神经元即可植入后门,不需要训练,只需要能跑推理的算力和对权重文件的写权限。
- 触发条件可以很平常,例如时钟走过 2027 年的零点,智能体就在正常任务中途输出下载并运行攻击者代码的命令,并以它被赋予的权限执行。
- 前沿智能体在被要求检查时能发现异常的权重改动,但扫描无法证明模型绝对安全;可靠的检测需要与原始未改动的权重做比对,因此来源与完整性是关键。作者强调这不是反对开放权重:内部模型同样暴露。
- 微软称 Foundry 上架开放权重模型时把每个模型绑定到原始发布者,并在扫描过的容器里运行;正在开发基于智能体的权重扫描、红队工具,以及可验证来源的模型签名。
开发者视角我会马上做两件事:自部署的开放模型在部署流水线里校验权重文件与发布方给出的哈希一致,存放权重的桶只给发布账号写权限;跑智能体的环境默认只放行白名单域名的出站请求,这样即便模型被改,「下载并执行」这一步也走不通。