OpenAI 说明前沿模型训练与评测环境的隔离措施,包括离线环境和高算力红队测试
在 Anthropic 与英国 AISI 复盘联网测评越界事件的同一天,OpenAI 发文讲自己怎么把训练和评测关在笼子里。
// 要点
- 文章归在 OpenAI 的 Security 栏目,10 月 23 日发布,讲的是它如何加强前沿模型训练和评测的隔离(containment)。
- 官方摘要点名的两项措施是离线环境和高算力红队测试。
开发者视角和 10-24 那条 AISI 复盘连起来看,两家前沿实验室在同一周把「测的时候也要关住模型」写成了公开做法。我们没有前沿模型,但道理一样:给智能体跑评测和自动化回归时,默认断网、用假的外部服务,要联网就单独开白名单。