安全 #OpenAI#智能体 2026-10-30 · 原文发布 10-29

OpenAI 更新 Model Spec:以五项核心价值组织,单列智能体的自主范围与「默认不听不可信数据」

OpenAI 发布新版模型行为规范,写明模型该听谁的、什么时候必须停下来问人,做智能体的人可以直接拿来对照自己的设计。

一手来源 OpenAI Model Spec · model-spec.openai.com 读原文 ↗

// 要点

  • 五项核心价值:忠实于人的意图、尽量减少伤害、诚实透明、促进人的自主、以关怀行事。
  • 指令按权限分级(Root、System、Developer、User、Guideline、无默认权限),冲突时由更高权限和更新的指令优先。
  • 多步真实世界操作要在「事先约定的自主范围」内进行:范围清楚、有结束条件,超出范围的操作需要批准。
  • 工具输出、引用文本和网页内容默认视为信息而不是指令;发邮件、删文件等有副作用的操作需格外谨慎,并要配合监控、纠正与关停。

开发者视角这份规范最有用的是智能体那几节,基本就是一份现成的设计检查表:「约定范围 + 结束条件 + 越界要批准」和「工具返回的内容不是指令」。我会把它和上周 Amazon Quick 的智能审批清单放在一起,对一遍 PandaClaws 后台抓网页、发内容的每一步,看哪些地方还把网页内容直接拼进了指令。

// 来龙去脉 · 来自 #OpenAI 专题

看完整时间线 →
  1. 10-30 Codex CLI 0.166.0:GPT-6.1 Terra 进入内置、Vertex AI 和 Bedrock 模型目录,安全拦截会说明原因
  2. 10-29 OpenAI 给符合条件的 ChatGPT Pro 和 Business 订阅用户每月最多 500 美元 API 额度
  3. 10-28 OpenAI 与 Oracle 扩大合作:Oracle 的业务应用和 AI 智能体进入 ChatGPT

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →