行业 #OpenAI#AI 政策与合规 2026-10-31 · 原文发布 10-30

OpenAI 表示将遵守一个跨厂商共用的 robots.txt 信号,网站可以用它一次性声明 AI 训练偏好

网站声明「我的内容能不能拿去训练」,以后不必再给每家爬虫分别写规则,做内容型产品的人要关心这件事。

一手来源 OpenAI · openai.com 读原文 ↗

// 要点

  • OpenAI 将遵守一个共用的 robots.txt 信号,帮助网站运营者表达对 AI 训练的偏好。
  • 这个信号面向所有参与的提供方:网站写一次,就能把训练偏好传达给参与的各家 AI 厂商。

开发者视角对 PandaClaws 这类往外发内容的产品,这是一个应该写进发布检查清单的开关:先想清楚你的站要不要被拿去训练,按官方给出的具体写法在 robots.txt 里一次写上。反过来,如果你的产品要抓取网页,也该从现在开始把这个信号纳入抓取规则,而不是只认几家的 User-Agent。

// 来龙去脉 · 来自 #OpenAI 专题

看完整时间线 →
  1. 10-31 OpenAI 介绍如何发现前沿模型的失准:用分层监控识别失准和越权的智能体行为,在事态升级前介入
  2. 10-30 OpenAI 更新 Model Spec:以五项核心价值组织,单列智能体的自主范围与「默认不听不可信数据」
  3. 10-30 Codex CLI 0.166.0:GPT-6.1 Terra 进入内置、Vertex AI 和 Bedrock 模型目录,安全拦截会说明原因

每周一,一封邮件看完 AI 大事

每周一早上,把过去 7 天最值得关注的 6 件 AI 大事和我的解读发到你邮箱。

邮箱只用于发送周报,不会提供给任何第三方;每封邮件底部都可以一键退订。 看看最近一期 →