OpenAI 启动第一阶段「嵌入式评估」:Apollo Research、METR、Transluce 与 Goodfire 独立评估其模型对齐、防护与监控系统
外部机构开始进入 OpenAI 内部做独立评估。目前公开的是参与方和评估范围,适合关注模型安全承诺能否被第三方核验的人。
// 要点
- OpenAI 宣布开始第一阶段嵌入式评估,合作方为 Apollo Research、METR、Transluce 与 Goodfire。
- 评估范围是独立评估 OpenAI 的模型对齐、防护措施与监控系统。
开发者视角目前只有名单和范围,还没有能直接用的结论。我会等第一批报告出来,对照自己产品里在用的 OpenAI 模型,看监控和防护有哪些已知短板,再决定哪些环节要自己补一层审核。