安全 #开源模型 2026-11-13 · 原文发布 11-12

IBM 发布 LLMON 标记语言与 Granite 4.1 3B、8B 预览模型:用保留特殊 token 区分指令与数据,在 OPI 基准上比最好的前沿模型多挡住 47% 的注入攻击

一种专为模型设计、替代 JSON 的上下文结构写法,目标是从训练层面把「指令」和「数据」分开。这一条讲它怎么做、效果多大、边界在哪。

一手来源 Hugging Face 博客(IBM Granite) · huggingface.co 读原文 ↗

// 要点

  • LLMON 用 6 个保留特殊 token 作为结构分隔符,指令、数据、约束各成可寻址的块,再由一个 exec 块声明执行哪条指令、作用于哪份数据;没被 exec 引用的指令会被忽略。
  • 发布 granite-4.1-3b-LLMON-preview 与 granite-4.1-8b-LLMON-preview 两个实验性预览模型,以及工具包和 JSON 与 LLMON 双向无损转换器;官方称通用能力与 Granite 4.1 Instruct 持平。
  • 在 OPI 间接提示注入基准上,比测试中最好的前沿模型多挡住 47% 的攻击,比最好的开源模型多 95%;ASB、StruQ 上趋势相似。
  • IBM 说明这是学到的行为而非强制保证,目前针对的是静态注入,多轮展开的自适应攻击仍在改进。

开发者视角AI 云盘要让模型读用户上传的任意文档,间接注入是绕不开的风险。小模型在这类「读文档、抽字段」的步骤上本来就够用,我会拿 8B 预览版在内部文档抽取上试一轮,看注入样本的拦截率和抽取准确率。但它只是预览版,工具权限的最小化和出站白名单不能因此省掉。

// 来龙去脉 · 来自 #开源模型 专题

看完整时间线 →
  1. 11-13 DeepSeek V4-Pro、V4-Flash 与 V4.1-Flash 上架 SageMaker JumpStart:均为 MIT 许可的 MoE 模型,100 万 token 上下文
  2. 11-13 SGLang-Neuron 公开可用:用原有的 SGLang 接口在 AWS Trainium 上推理和生成强化学习 rollout,支持预填充与解码分离
  3. 11-12 微软研究院披露 Lazarus:改写不到 10 个休眠神经元、无需训练,就能给基于该模型的智能体植入后门

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →