安全 #OpenAI 2026-11-17 · 原文发布 11-16

OpenAI 启动第一阶段「嵌入式评估」:Apollo Research、METR、Transluce 与 Goodfire 独立评估其模型对齐、防护与监控系统

外部机构开始进入 OpenAI 内部做独立评估。目前公开的是参与方和评估范围,适合关注模型安全承诺能否被第三方核验的人。

一手来源 OpenAI · openai.com 读原文 ↗

// 要点

  • OpenAI 宣布开始第一阶段嵌入式评估,合作方为 Apollo Research、METR、Transluce 与 Goodfire。
  • 评估范围是独立评估 OpenAI 的模型对齐、防护措施与监控系统。

开发者视角目前只有名单和范围,还没有能直接用的结论。我会等第一批报告出来,对照自己产品里在用的 OpenAI 模型,看监控和防护有哪些已知短板,再决定哪些环节要自己补一层审核。

// 来龙去脉 · 来自 #OpenAI 专题

看完整时间线 →
  1. 11-14 OpenAI 推出 ChatGPT Wallet:ChatGPT Work、Codex 和 dots 里的智能体经用户批准即可完成购买
  2. 11-13 AWS 发布 Codex 接入 Amazon Bedrock 的企业上线指南:用 IAM Identity Center 登录,调用 Bedrock 上的 GPT-5.6 Sol、Terra、Luna
  3. 11-10 OpenAI 介绍 Control Room:在研究基础设施上集中追踪模型工作负载,并能在出现安全隐患时快速叫停

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →