Anthropic 让 METR 以「类员工」权限入驻评估,已有 6 名 METR 员工领到公司设备,结论可自行发布
独立评估从「发布前送测」走向「派人常驻」,并把可删改的范围事先写死。
// 要点
- Anthropic 已为 6 名 METR 员工配发公司设备,给予「类员工」访问权限,METR 将发布其风险评估。
- Anthropic 不能否决发布,只能要求删去事先约定的少数类别,如客户数据、特权信息或模型架构;METR 可公开评论删改是否合理。
- 评估方权限分三个层级:SecureBio 处于第一层,正在审查 8 月风险报告中的化学和生物武器章节;Accenture 与 Faculty 正在推进合作,与 Hugging Face 处于早期讨论。
- 这是在 Anthropic 签署白宫超级智能协议后落实其中引入外部审计或评估方的承诺。
开发者视角对做产品的人,这件事的直接意义是:以后选模型时能多一份不由厂商自己写的风险报告。我会在 METR 第一份报告出来后,把其中和智能体越权相关的结论对照我们自己的权限设计看一遍。它把「能删什么」提前列清楚的做法也值得学:我们给客户做安全审查时,同样应该事先约定哪些内容不披露。