OpenAI 更新 Model Spec:以五项核心价值组织,单列智能体的自主范围与「默认不听不可信数据」
OpenAI 发布新版模型行为规范,写明模型该听谁的、什么时候必须停下来问人,做智能体的人可以直接拿来对照自己的设计。
// 要点
- 五项核心价值:忠实于人的意图、尽量减少伤害、诚实透明、促进人的自主、以关怀行事。
- 指令按权限分级(Root、System、Developer、User、Guideline、无默认权限),冲突时由更高权限和更新的指令优先。
- 多步真实世界操作要在「事先约定的自主范围」内进行:范围清楚、有结束条件,超出范围的操作需要批准。
- 工具输出、引用文本和网页内容默认视为信息而不是指令;发邮件、删文件等有副作用的操作需格外谨慎,并要配合监控、纠正与关停。
开发者视角这份规范最有用的是智能体那几节,基本就是一份现成的设计检查表:「约定范围 + 结束条件 + 越界要批准」和「工具返回的内容不是指令」。我会把它和上周 Amazon Quick 的智能审批清单放在一起,对一遍 PandaClaws 后台抓网页、发内容的每一步,看哪些地方还把网页内容直接拼进了指令。