安全 #OpenAI 2026-11-21 · 原文发布 11-20

OpenAI 公开对抗性蒸馏防线:GPT-6.2 Astra 的受保护推理被提取的攻击成功率从 54.0% 降到 0.2%

有人用前沿模型的输出训练一个没有安全措施的同等能力模型,这一条讲 OpenAI 怎么防,以及其中一项会直接影响你调用 API 的方式。

图片来源:OpenAI
一手来源 OpenAI · openai.com 读原文 ↗

// 要点

  • 在内部自适应红队评估中,恢复受保护推理(思维链)的平均攻击成功率从带原始防护的 GPT-6 Astra 的 54.0%,降到更新防护后 GPT-6.2 Astra 的 0.2%。
  • 防线分两层:单次请求层用对抗训练、输入与输出分类器(覆盖流式响应和工具调用参数)和 API 限制;活动层从请求与账户信号中识别协同提取,并对相关账户网络执法。
  • GPT-6.2 Astra 与 Sol 的受保护推理绑定在产生它的对话历史上:改写了较早的消息,API 会丢弃其后的推理;更早、防护更弱的模型家族读不到它们的推理。
  • 内部研究显示,用精确推理轨迹训练的学生模型,在网络安全任务上通常强于只用推理摘要训练的模型;OpenAI 会与其他模型厂商共享入侵指标。

开发者视角对正常开发者最实际的一点是「改写历史消息就丢推理」:如果你的智能体会裁剪、改写对话来省 token,在 6.2 上可能悄悄丢掉推理续接,质量和缓存都会受影响。我会先检查上下文压缩逻辑是只追加还是会改写旧消息,再决定切 6.2 的时机。

// 来龙去脉 · 来自 #OpenAI 专题

看完整时间线 →
  1. 11-21 OpenAI 公开 Performance Factory:Codex 驱动的性能回归流程三个多月跟踪 1,700 多次调查,找到 600 多个根因
  2. 11-21 OpenAI 发布药物化学基准 MedChemBench:99 道题取自 117 篇论文与专利,GPT-6.2 Astra 拿到 84.5% 的分数
  3. 11-18 OpenAI 发布 GPT-6.2 Astra 与 GPT-6.2 Sol:专业产出、编码、电脑操作和效率都有提升,成本更低

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →