OpenAI 公开对抗性蒸馏防线:GPT-6.2 Astra 的受保护推理被提取的攻击成功率从 54.0% 降到 0.2%
有人用前沿模型的输出训练一个没有安全措施的同等能力模型,这一条讲 OpenAI 怎么防,以及其中一项会直接影响你调用 API 的方式。
// 要点
- 在内部自适应红队评估中,恢复受保护推理(思维链)的平均攻击成功率从带原始防护的 GPT-6 Astra 的 54.0%,降到更新防护后 GPT-6.2 Astra 的 0.2%。
- 防线分两层:单次请求层用对抗训练、输入与输出分类器(覆盖流式响应和工具调用参数)和 API 限制;活动层从请求与账户信号中识别协同提取,并对相关账户网络执法。
- GPT-6.2 Astra 与 Sol 的受保护推理绑定在产生它的对话历史上:改写了较早的消息,API 会丢弃其后的推理;更早、防护更弱的模型家族读不到它们的推理。
- 内部研究显示,用精确推理轨迹训练的学生模型,在网络安全任务上通常强于只用推理摘要训练的模型;OpenAI 会与其他模型厂商共享入侵指标。
开发者视角对正常开发者最实际的一点是「改写历史消息就丢推理」:如果你的智能体会裁剪、改写对话来省 token,在 6.2 上可能悄悄丢掉推理续接,质量和缓存都会受影响。我会先检查上下文压缩逻辑是只追加还是会改写旧消息,再决定切 6.2 的时机。