IBM 发布 LLMON 标记语言与 Granite 4.1 3B、8B 预览模型:用保留特殊 token 区分指令与数据,在 OPI 基准上比最好的前沿模型多挡住 47% 的注入攻击
一种专为模型设计、替代 JSON 的上下文结构写法,目标是从训练层面把「指令」和「数据」分开。这一条讲它怎么做、效果多大、边界在哪。
// 要点
- LLMON 用 6 个保留特殊 token 作为结构分隔符,指令、数据、约束各成可寻址的块,再由一个 exec 块声明执行哪条指令、作用于哪份数据;没被 exec 引用的指令会被忽略。
- 发布 granite-4.1-3b-LLMON-preview 与 granite-4.1-8b-LLMON-preview 两个实验性预览模型,以及工具包和 JSON 与 LLMON 双向无损转换器;官方称通用能力与 Granite 4.1 Instruct 持平。
- 在 OPI 间接提示注入基准上,比测试中最好的前沿模型多挡住 47% 的攻击,比最好的开源模型多 95%;ASB、StruQ 上趋势相似。
- IBM 说明这是学到的行为而非强制保证,目前针对的是静态注入,多轮展开的自适应攻击仍在改进。
开发者视角AI 云盘要让模型读用户上传的任意文档,间接注入是绕不开的风险。小模型在这类「读文档、抽字段」的步骤上本来就够用,我会拿 8B 预览版在内部文档抽取上试一轮,看注入样本的拦截率和抽取准确率。但它只是预览版,工具权限的最小化和出站白名单不能因此省掉。